Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
Сикорский — США: «Мы партнеры, но не лохи»
-
Билл Гейтс признался в романах с россиянками и извинился за связи с Эпштейном
-
США пригрозили Европе «серьёзной ошибкой» за отказ от закупок американского оружия
-
В Конгрессе США заявили об отсутствии доказательств «российского следа» в кампании румынского политика
-
Премьер Словакии заявил союзникам о «психологическом состоянии» Трампа
-
Министр обороны ФРГ потребовал извинений от Трампа из-за слов о союзниках в Афганистане
Слушать радио
Лента новостей
Каллас обвинила Трампа в попытке расколоть Европу
Глава европейской дипломатии Кая Каллас выступила с резкой критикой политики Дональда Трампа, обвинив американского президента в стремлении дестабилизировать Евросоюз. В интервью Financial Times...
Мерц обвинил Россию в нежелании вести переговоры и остался недоволен ослаблением санкций США
Канцлер Германии Фридрих Мерц после переговоров с премьер-министром Норвегии Йонасом Гаром Стёре вновь жёстко высказался о России. По его словам, Москва продолжает демонстрировать...
«Китайский ширпотреб» вместо оборонных компонентов: мошенникам не удалось отделаться условно
Четверо предпринимателей, провернувших аферу с поставками контрафактных запчастей для оборонного завода, избежали реальных сроков лишь временно. Второй кассационный суд отменил условный...
Польша начала расследование по «файлам Эпштейна»: подозрение в торговле девушками
Национальная прокуратура Польши объявила о начале следствия по делу о торговле людьми после анализа документов, связанных с американским финансистом Джеффри Эпштейном. Как сообщили в ведомстве...
Мерц: у войны с Ираном нет плана завершения, а санкции против России ослаблять рано
Канцлер Германии Фридрих Мерц выступил с критикой затянувшейся военной кампании США и Израиля против Ирана. По его словам, эскалация растёт, а общего плана, как...
