Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
Трамп объявил о планах построить «самый большой военный корабль в мире»
-
Трамп вновь заявил о возможности взятия под контроль Гренландии
-
В ЕС жёстко ответили Трампу после его обвинений в адрес Европы
-
Германия разрабатывает альтернативный план урегулирования украинского конфликта
-
США заморозили оружейные сделки с Европой на $5 млрд
-
Трамп предрек возможный обвал российской экономики
Слушать радио
Лента новостей
Расследование подтвердило, что упавший в Эстонии дрон был украинским
Расследование инцидента с беспилотником, упавшим в августе на эстонской территории недалеко от российской границы, установило его украинское происхождение. Точную траекторию...
Трамп объявил о планах построить «самый большой военный корабль в мире»
Президент США Дональд Трамп представил амбициозный проект создания крупнейшего в мире военного корабля. По его словам, судно станет частью нового...
Финляндия ужесточает требования для получения постоянного вида на жительство
С 8 января 2026 года Финляндия вводит более жёсткие правила для получения постоянного вида на жительство. Согласно новым требованиям, заявители...
Перми обещают крупный частный медицинский объект, к которому остаётся слишком много вопросов
Инициатива по строительству в Перми частного родильного дома повышенной комфортности получила статус «приоритетной». Соответствующее решение было принято на Совете по...
«Эффект Долиной» в строительном проекте Дмитрия Семененко
История предпринимателя Дмитрия Семененко и его строительного проекта «Строим для семей» напоминает ставший широко известным «эффект Долиной». Как известно, певица...
