Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
Трамп предрек возможный обвал российской экономики
-
США изменили порядок подачи заявлений на визы
-
Когда Луна потемнеет: про сентябрьское полное лунное затмение рассказал астроном
-
США резко сокращают военную помощь Литве и Эстонии в рамках масштабного пересмотра помощи союзникам
-
Трамп придумал необычный способ защиты границы с Мексикой
-
В Индии открыт новый вид уникальных миниатюрных рачков
Слушать радио
Лента новостей
Учёные и эксперты обеспокоены проектами на Куршской косе
При реализации необдуманных строительных проектов и сохранении нынешнего туристического потока на Куршскую косу Национальному парку грозит скорая деградация. Особую озабоченность...
ЕС отказался от планов обязательного контроля переписок в мессенджерах
Евросоюз отказался от спорной инициативы по введению обязательного сканирования личных переписок в мессенджерах. Предложение Еврокомиссии, которое ранее критиковали создатели Signal...
Пенсии в Германии вырастут почти на 4% в 2026 году
Немецкие пенсионеры получат существенную прибавку к выплатам с июля 2026 года. Согласно проекту пенсионной реформы, который оказался в распоряжении Reuters,...
Литва закрыла ключевой пункт пропуска на границе с Беларусью
С 30 ноября 2025 года полностью прекращает работу многосторонний автомобильный пункт пропуска «Шальчининкай – Бенякони» на литовско-белорусской границе. Соответствующее постановление...
Мелони против Счетной палаты: битва за мост на Сицилию
Итальянское правительство столкнулось с суровым препятствием в амбициозном плане по соединению Сицилии с материком. Счетная палата страны наложила вето на...
