Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2421
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
03 июня 2025
«Магнитострой» столкнулся с проблемами — одна из ключевых компаний группы проиграла крупное налоговое дело
03 июня 2025
Россиянин застрял во Вьетнаме без паспорта после кражи байка, избиения и изъятия документов
03 июня 2025
«Радиостанция Судного дня» вышла в эфир сразу после переговоров в Стамбуле и передала новый шифр
03 июня 2025
Скандал вокруг ГК «Благо»: три смерти, арест и борьба за активы между наследниками и силовиками
03 июня 2025
Российские СМИ: при подрыве моста в Брянской области использовали американскую взрывчатку С-4
03 июня 2025
Матвей Сафонов полностью выплатил все алименты