Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
Германия разрабатывает альтернативный план урегулирования украинского конфликта
-
США заморозили оружейные сделки с Европой на $5 млрд
-
Трамп предрек возможный обвал российской экономики
-
США изменили порядок подачи заявлений на визы
-
Когда Луна потемнеет: про сентябрьское полное лунное затмение рассказал астроном
-
США резко сокращают военную помощь Литве и Эстонии в рамках масштабного пересмотра помощи союзникам
Слушать радио
Лента новостей
Финляндия хочет запретить россиянам покупать квартиры
Министр обороны Финляндии Антти Хяккяйнен заявил о необходимости запретить гражданам России владеть квартирами в стране. Поводом стало расследование телеканала Yle,...
НАТО создаст в Финляндии постоянное командование
Финляндия может получить постоянное командное подразделение НАТО, которое займётся управлением совместными операциями альянса. Как заявил министр обороны страны Антти Хакканен,...
Берлин считает женевские переговоры успехом Европы
Германия заявила о дипломатической победе на переговорах в Женеве. Министр иностранных дел Йоханн Вадефуль сообщил, что европейским странам удалось исключить...
Аэропорт Вильнюса снова закрыли из-за «метеозондов»
Литва пережила «самую тяжелую ночь», по словам главы Национального центра управления кризисами Вилмантаса Виткаускаса. В воздушном пространстве зафиксировали более 40...
Аэропорт Эйндховена закрыли из-за дронов
Нидерланды временно закрыли второй по загруженности аэропорт страны — Эйндховен. Министр обороны Рубен Брекельманс сообщил о приостановке всех полётов после...
