Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
Конфликт Гарварда с администрацией Трампа: суть спора и последствия
-
ЕС отложил пошлины на товары из США на 90 дней
-
Энергетическая политика Германии под огнем критики Трампа
-
США ужесточают пограничный контроль: европейцев отправляют в депортационные центры
-
В Литве продолжаются поиски четырех американских военных
-
Трамп ужесточил правила голосования на выборах в США
Слушать радио
Лента новостей


Бельгия решила сохранить и продлить работу атомных станций
Парламент Бельгии принял историческое решение отказаться от планов закрытия действующих атомных электростанций. Голосование прошло с подавляющим преимуществом: 102 парламентария поддержали...


АО «РНГ» оказало помощь Российской экономической школе
Компания АО «РНГ» оказала существенную финансовую помощь Российской экономической школе (РЭШ). Средства будут направлены на обеспечение стабильной работы учебного заведения...


В Германии арестованы украинцы по подозрению в подготовке диверсий по заданию России
Федеральная прокуратура Германии сообщила о задержании трёх граждан Украины, подозреваемых в планировании атак на грузовой транспорт в ФРГ, якобы по...


Европе рекомендовали выстраивать диалог с «Америкой Трампа»
На германо-американской конференции Atlantik-Brücke в Берлине эксперты и политики обсудили будущее отношений Европы и США на фоне войны России в...


Польша закрывает российское генконсульство в Кракове
Министр иностранных дел Польши Радослав Сикорский объявил об отзыве согласия на работу Генконсульства РФ в Кракове. Причина — якобы имеющиеся...