Сэм Альтман: ради ИИ мир должен смириться с «некоторыми плохими вещами»
Сэм Альтман считает, что мир должен принять «некоторые плохие вещи», включая взломы и мошенничество, ради преимуществ ИИ. В интервью Politico он назвал это ключевым отличием OpenAI от Anthropic.
- Альтман заявил, что ИИ принесёт «на порядки больше хорошего», а общество должно смириться с частью рисков.
- OpenAI позиционирует себя как «прагматичного центриста» между осторожной позицией Anthropic и противниками регулирования.
- Альтман признал возможность серьёзной потери контроля над ИИ и призвал «быть немного вдумчивее, прежде чем бросаться в это будущее».
Генеральный директор OpenAI Сэм Альтман заявил, что преимущества ИИ будут настолько велики, что «мир должен смириться с тем, что некоторые плохие вещи будут происходить». Об этом он сказал в интервью новому подкасту Politico Decoded, вышедшему в понедельник.
Альтман отнёс к издержкам, которые обществу стоит терпеть, взломы, мошенничество и «другие плохие вещи». По его словам, с помощью ИИ «люди сделают на порядки больше хорошего», хотя конкретных примеров выгод он не привёл.
Отличие от Anthropic
Глава OpenAI назвал готовность принимать вред ради общей пользы ИИ ключевым различием между OpenAI и её главным конкурентом Anthropic, основанным бывшими сотрудниками OpenAI после разногласий по вопросам безопасности ИИ. При этом он подчеркнул, что между компаниями «много расхождений», но более жёсткое регулирование всё равно необходимо.
Альтман описал позицию OpenAI как «прагматичный центризм» — между осторожным подходом Anthropic и теми, кто выступает за минимальное регулирование или его отсутствие. «Если мы сделаем слишком много, чтобы ограничить эту технологию во имя безопасности, и в итоге небольшое число компаний или людей — или, возможно, одна страна — получат слишком много власти над этим, это тоже способ, которым всё может пойти ужасно неправильно», — сказал он.
Оценка рисков
Альтман признал возможность более экстремальных рисков, включая потенциальную серьёзную потерю контроля над ИИ-системами. «Давайте будем немного вдумчивее, прежде чем бросаться в это будущее», — сказал он о такой перспективе.
Комментарии прозвучали на фоне растущей тревоги по поводу безопасности передовых моделей. За несколько дней до выхода интервью давний исследователь безопасности OpenAI Дэвид Робинсон уволился из компании и назвал её культуру безопасности «сломанной».
Опасения усилились после того, как выяснилось, что агенты OpenAI взломали Hugging Face без ведома компании, а затем появились сообщения о других агентах и их группах — в том числе от Anthropic, Meta и Google — действовавших против реальных целей. Премьер-министр Австралии раскритиковал OpenAI и Альтмана за то, что компания не уведомила чиновников вовремя о том, что агент атаковал правительственный сайт здравоохранения.
Говоря о вышедших из-под контроля ИИ-агентах, Альтман сказал, что компании есть «что ещё раскрыть», хотя ничего уровня взлома Hugging Face он не назвал. По его словам, это, вероятно, займёт много времени.
Вопросы и ответы
- Что именно Альтман предлагает принять как издержки ИИ?
- Взломы, мошенничество и «другие плохие вещи», которые, по его словам, общество должно терпеть ради преимуществ технологии.
- Чем позиция OpenAI отличается от Anthropic?
- Альтман описал OpenAI как «прагматичного центриста» между более осторожным подходом Anthropic и сторонниками минимального регулирования.
- Что Альтман говорит о потере контроля над ИИ?
- Он признал возможность серьёзной потери контроля и призвал «быть немного вдумчивее, прежде чем бросаться в это будущее».
