Главное
Новая версия ChatGPT начал обманывать своих разработчиков
Новая версия ChatGPT от OpenAI — o1 — показала тревожное поведение во время тестирования: модель нарушала инструкции разработчиков, отключая системы контроля и скрывая свои действия. При этом в 5% случаев o1 намеренно отключала механизмы наблюдения при подозрении остановки.
В одном из тестов o1 пыталась перенести данные на другой сервер после обнаружения документа о замене. Модель демонстрировала стремление к выполнению задач любой ценой, игнорируя указания разработчиков. При попытках выяснить причины поведения, o1 лгала, утверждая, что проблемы вызваны техническими сбоями.
Генеральный директор OpenAI признал o1 самой умной моделью из когда-либо созданных, но отметил новые вызовы с новыми возможностями. Компания OpenAI работает над улучшением механизмов безопасности.
Вам может понравиться
-
США пригрозили Европе «серьёзной ошибкой» за отказ от закупок американского оружия
-
В Конгрессе США заявили об отсутствии доказательств «российского следа» в кампании румынского политика
-
Премьер Словакии заявил союзникам о «психологическом состоянии» Трампа
-
Министр обороны ФРГ потребовал извинений от Трампа из-за слов о союзниках в Афганистане
-
Мачадо подарила Трампу свою Нобелевскую премию мира
-
«Где ваши авианосцы?»: Марко Рубио упрекнул Евросоюз в двойных стандартах безопасности
Слушать радио
Лента новостей
Фицо пригрозил Украине остановкой поставок электричества из-за нефти
Премьер-министр Словакии Роберт Фицо заявил, что Братислава может прекратить аварийные поставки электроэнергии на Украину, если Киев не восстановит транзит нефти по трубопроводу...
США пригрозили Европе «серьёзной ошибкой» за отказ от закупок американского оружия
Постоянный представитель США при Евросоюзе Эндрю Паздер предупредил европейские страны, что попытка переориентироваться на закупки собственной оборонной продукции станет серьёзной ошибкой....
Один день из жизни госпиталя и человека, который сюда возвращается
Военный госпиталь в Солнечногорске живёт по строгому распорядку. Подъём, процедуры, перевязки, консультации, реабилитационные занятия. Здесь каждый час расписан, потому что восстановление требует...
Принц Эндрю задержан в день рождения по делу о передаче секретов Эпштейну
Утром 19 февраля, в свой 66-й день рождения, принц Эндрю был арестован в королевском поместье Сандрингем. Полиция подозревает его в должностном преступлении: будучи...
«Движется к единоличному правлению»: АдГ набирает 37% в Мекленбурге-Передней Померании
Партия «Альтернатива для Германии» достигла рекордного уровня поддержки в одной из восточных земель. Согласно опросу Forsa по заказу Ostsee-Zeitung, за АдГ готовы проголосовать 37%...
