Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
Германия разрабатывает альтернативный план урегулирования украинского конфликта
-
США заморозили оружейные сделки с Европой на $5 млрд
-
Трамп предрек возможный обвал российской экономики
-
США изменили порядок подачи заявлений на визы
-
Когда Луна потемнеет: про сентябрьское полное лунное затмение рассказал астроном
-
США резко сокращают военную помощь Литве и Эстонии в рамках масштабного пересмотра помощи союзникам
Слушать радио
Лента новостей
Spiegel: Лидеры ЕС в частной беседе с Зеленским опасались предательства США
Немецкий журнал Spiegel опубликовал стенограмму секретной телеконференции лидеров Евросоюза с Владимиром Зеленским. Согласно документу, европейские политики, включая президента Франции Эмманюэля...
В ЕС нарастают опасения из-за планов по "репарационному кредиту" для Украины за счёт российских активов
В Европе усиливается тревога по поводу планов Еврокомиссии выделить Украине кредит на репарации, используя замороженные российские активы. Как пишет Financial...
Экс-главу дипломатии ЕС Могерини отпустили после допроса по делу о финансировании
Бывшего верховного представителя ЕС по иностранным делам Федерику Могерини, задержанную накануне по делу о возможном мошенничестве, уже отпустили после допроса....
Немецкий полицейский получил условный срок за поцелуй против воли
61-летний полицейский из Бремена приговорён судом к шести месяцам лишения свободы условно за принуждение женщины, предположительно гражданки России, к поцелую...
Встреча Мерца и Туска в Берлине прошла в напряжённой атмосфере
Запланированный как демонстрация единства саммит между канцлером Германии Фридрихом Мерцем и премьер-министром Польши Дональдом Туском прошёл в Берлине в напряжённой...
