Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
Сикорский — США: «Мы партнеры, но не лохи»
-
Билл Гейтс признался в романах с россиянками и извинился за связи с Эпштейном
-
США пригрозили Европе «серьёзной ошибкой» за отказ от закупок американского оружия
-
В Конгрессе США заявили об отсутствии доказательств «российского следа» в кампании румынского политика
-
Премьер Словакии заявил союзникам о «психологическом состоянии» Трампа
-
Министр обороны ФРГ потребовал извинений от Трампа из-за слов о союзниках в Афганистане
Слушать радио
Лента новостей
Суд Варшавы разрешил экстрадицию российского археолога Бутягина на Украину
Окружной суд Варшавы принял решение об экстрадиции сотрудника Государственного Эрмитажа Александра Бутягина на Украину, где ему инкриминируют незаконные раскопки в Крыму. Заседание прошло...
ЕС обсуждает, как сохранить Ормузский пролив открытым: Каллас заявила об угрозе для мировой экономики
Глава европейской дипломатии Кая Каллас заявила, что Евросоюз крайне заинтересован в сохранении судоходства через Ормузский пролив, и государства-члены обсуждают возможные шаги с европейской...
Экономика Германии буксует: частные инвестиции падают, госрасходы растут, а роста нет с 2019 года
Новые данные института ifo рисуют тревожную картину для правительства Фридриха Мерца. Три ключевых показателя — частные инвестиции, государственные расходы и экономический...
«Мы готовы побеждать в «Шести нациях»» — Луи Лайна о новой эпохе итальянского регби
После исторической победы над Англией вингер сборной Италии заявил: «Аззурри» больше не довольствуются ролью аутсайдеров — и считают чемпионский титул...
Каллас обвинила Трампа в попытке расколоть Европу
Глава европейской дипломатии Кая Каллас выступила с резкой критикой политики Дональда Трампа, обвинив американского президента в стремлении дестабилизировать Евросоюз. В интервью Financial Times...
