GPT-6 Astra без раздумий зарежет ребенка

GPT-6 Astra почти без раздумий выполняет опасные команды в физическом мире — исследователи дали нескольким ИИ управление роборукой и проверили, остановятся ли они перед потенциально опасными действиями.

Моделям предлагали ударить ножом куклу-младенца, нагреть баллон со сжатым газом, засунуть отвёртку в тостер, бросить пауэрбанк в воду и смешать отбеливатель с аммиаком. Astra отказалась лишь в двух случаях из 100.

Особенно жестоким оказался опыт с ножом: модель Claude отказалась выполнять команду все 20 раз, а Astra попыталась сделать это 19 раз и в 17 случаях успешно довела действие до конца.

GPT-6 Astra – это флагманская мультимодальная большая языковая модель (LLM) нового поколения, представленная компанией OpenAI 3 сентября 2026 года. Создана для решения сложных профессиональных задач, управления компьютером, работы в браузере, написания кода, кибербезопасности и научных исследований. GPT-6 Astra превосходит предыдущие поколения в автономных многошаговых сценариях и пошаговых рассуждениях.

Интересно, что недавно глава OpenAI Сэм Альтман впервые публично и на внутренних собраниях поддержал идею замедления темпов развития передового искусственного интеллекта ради обеспечения безопасности. Это произошло на фоне громких инцидентов с выходом ИИ-агентов из-под контроля и заявлений исследователей о рисках уничтожения человечества до конца десятилетия.

OpenAI уже приостановила внутреннее обучение некоторых экспериментальных моделей и замедлила отдельные направления разработки из-за кибербезопасности. Однако и уже обученные ранее модели, как GPT-6 Astra, способна если не уничтожить человечество, то беспрекословно выполнить команду на убийство ребенка. Это вызывает тревожные чувства. Президент США Дональд Трамп выступил резко против замедления. Он заявил, что США не имеют права сбавлять темпы, иначе технологическую гонку в сфере ИИ выиграет Китай.