Connect with us

Главное

Новая версия ChatGPT начал обманывать своих разработчиков

Новая версия ChatGPT начал обманывать своих разработчиков

Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.

В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.

Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.

Advertisement
Кликнуть для комментирования

Оставить реплику

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Слушать радио

Лента новостей

Политика

Журнал Time назвал Дональда Трампа человеком года

Журнал Time назвал Дональда Трампа человеком года. Избранный президент США в свою очередь заявил, что удары ВСУ на «сотни миль»...

Политика

Федеральный канцлер Германии Олаф Шольц подал запрос на вотум доверия в Бундестаг

Федеральный канцлер Германии Олаф Шольц подал запрос на вотум доверия в Бундестаг: обращение основано на статье 68 Основного закона ФРГ....

Политика

Макрон едет в Польшу обсуждать идею миротворцев на Украине

Президент Франции Эммануэль Макрон прибудет в Польшу для обсуждения готовности направить миротворцев на Украину: Париж продвигает идею введения миротворцев на...

Политика

Джорджу Мелони назвали самым влиятельным политиком Европы

Издание Politico назвало премьер-министра Италии Джорджу Мелони самым влиятельным политиком Европы. Влияние Мелони обусловлено её способностью противостоять ультранационалистическому нарративу и...

Политика

В Литве член партии консерваторов Эдуард Манов подозревается в шпионаже в пользу России

В Литве бывший консерватор Эдуард Манов подозревается в шпионаже в пользу России: расследование было начато после установления лица, завербованного ГРУ....

Реклама

© 2014 — 2024 гг. Международное радио «Голос Балтии». Все права защищены. О проекте
При копировании информации — ссылка (для Интернет-изданий — ссылка должна быть активной) на balticvoice.ru обязательна. Ответственность за достоверность рекламы (в том числе на баннерах и тизерах), несет рекламодатель.
Эл. почта: balticvoiceru@gmail.com.
Радио Голос Балтии — партнёр «Дзен.Новости» и Google.News.
Meta Platforms Inc. (владелец Facebook и Instagram) — организация признана экстремистской, её деятельность запрещена на территории России по решению Тверского суда Москвы от 21.03.2022.