Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
США заморозили оружейные сделки с Европой на $5 млрд
-
Трамп предрек возможный обвал российской экономики
-
США изменили порядок подачи заявлений на визы
-
Когда Луна потемнеет: про сентябрьское полное лунное затмение рассказал астроном
-
США резко сокращают военную помощь Литве и Эстонии в рамках масштабного пересмотра помощи союзникам
-
Трамп придумал необычный способ защиты границы с Мексикой
Слушать радио
Лента новостей
Польша обвиняет Россию в подрыве железной дороги
Министр обороны Польши Владислав Косиняк-Камыш публично обвинил Россию в организации диверсии на железнодорожной линии Варшава-Люблин. Хотя подозреваемые еще не задержаны,...
На железной дороге в Польше прогремел второй взрыв
Всего через сутки после первого инцидента на стратегической железнодорожной линии Варшава-Люблин, ведущей к украинской границе, произошла новая диверсия. На этот...
Министр обороны Германии: НАТО готово к возможной войне с Россией с 2029 года
Министр обороны ФРГ Борис Писториус заявил, что военные эксперты оценивают возможность нападения России на страны НАТО, начиная с 2029 года....
В НАТО опасаются российской крылатой ракеты «Буревестник»
Испытания российской межконтинентальной крылатой ракеты «Буревестник», проведённые 21 октября, вызвали серьёзную озабоченность в НАТО. Согласно секретным документам альянса, это оружие...
Финляндия депортировала в Россию участника ЧВК «Вагнер»
Финские пограничники задержали и депортировали в Россию участника ЧВК «Вагнер», незаконно пересекшего границу в районе города Китее. Как сообщило издание...
