«Мир имеет полное право бояться ИИ». Альтман заявил, что инцидентов с искусственным интеллектом не избежать
iXBT.com ·
Сэм Альтман не делает вид, что искусственный интеллект будет абсолютно безопасен всегда. Выступая на конференции Salesforce Dreamforce, генеральный директор OpenAI заявил, что, по его мнению, определенное количество инцидентов с новыми технологиями просто неизбежно. По его словам, наиболее важно то, как отрасль реагирует на них.
Сэм Альтман не делает вид, что искусственный интеллект будет абсолютно безопасен всегда. Выступая на конференции Salesforce Dreamforce, генеральный директор OpenAI заявил, что, по его мнению, определенное количество инцидентов с новыми технологиями просто неизбежно. По его словам, наиболее важно то, как отрасль реагирует на них.
«Я действительно считаю, что в условиях внедрения новых технологий определённая степень инцидентов неизбежна, — сказал Альтман. — Что меня действительно волнует, так это наличие у нас отличной культуры сообщения об инцидентах и извлечения уроков из них».
Он привёл в пример Федеральное управление гражданской авиации и Национальный совет по безопасности на транспорте. Эти ведомства тщательно расследуют каждый инцидент, и именно эта культура извлечения уроков является одной из главных причин безопасности современных авиаперелётов.
Напомним, бывший исследователь из Anthropic и OpenAI Джейкоб Коксон ушел из компании, после чего начал публиковать в социальной сети X различные сообщения. Он опасается, что гонка в области ИИ приведет к созданию систем, которые уничтожат человечество.
Альтман не стал преуменьшать опасения. Он сказал, что общественные опасения по поводу выхода ИИ из-под контроля или чрезмерной концентрации власти в нескольких лабораториях вполне понятны. «Мир имеет полное право бояться ИИ», — сказал он.