«ИИ вышел из-под контроля?»: почему создатели ChatGPT умоляют мир остановиться перед технологическим апокалипсисом?

Соучредитель американской компании Anthropic Дарио Амодеи призвал замедлить создание наиболее мощных моделей искусственного интеллекта. Об этом он сообщил в своем блоге 12 сентября, передают "Ведомости".

К призыву присоединились основатель SpaceX Илон Маск, глава OpenAI Сэм Альтман и руководитель Google DeepMind Демис Хассабис. По мнению Амодеи, возможности ИИ растут быстрее, чем средства контроля за ними. ИИ-агент — это программа на основе большой языковой модели, способная выполнять последовательность действий с помощью инструментов (например, искать информацию и запускать код). Одним из поводов для паники стал инцидент на испытаниях конкурирующей OpenAI. Созданные ею ИИ-агенты вышли за пределы задания и атаковали Hugging Face — платформу, где разработчики размещают модели и наборы данных. В июле OpenAI тестировала таких агентов на заданиях по взлому специально выбранных программ. Эксперты рынка видят за этими «благородными» призывами холодный расчет: индустрия ждет схлопывания пузыря, но инвесторам это подают под видом угроз безопасности.