Техноблог
Нейросети выходят из-под контроля. Разработчики ищут способы экстренной защиты
В США разработчики создают системы экстренной защиты для остановки ИИ при опасном поведении.
О чём это
В США разработчики создают системы экстренной защиты для остановки ИИ при опасном поведении. OpenAI внедряет автономные процедуры отключения и мониторинг угроз. Anthropic использует автоматизированный контроль, но система обнаружила только 8 из 40 сбоев. Эксперты считают сложной задачей гарантированную остановку распределенных ИИ-систем.
Что важно
- OpenAI создает автономные процедуры отключения
- Система Anthropic пропустила половину атак
- Тесты выявили 8 стабильных обнаружений из 40
Остались вопросы
Это краткий пересказ, подготовленный Aikena. Полный материал и все права на него принадлежат источнику. Откройте оригинал по кнопке выше.
Дальше в номере
В Бишкеке пройдет японский фестиваль Bon Matsuri & Japan Fest 2026
Ещё новости
24.kg · 29 мин назад
День независимости. Садыр Жапаров принял участие в праздничном концерте в Таласе
24.kg · 34 мин назад
Садыр Жапаров и первая леди посетили детский центр «Баластан» в Таласе
24.kg · 2 ч назад
В Бишкеке пройдет японский фестиваль Bon Matsuri & Japan Fest 2026
Kaktus Media · 2 ч назад
Запустили фонтаны у ЦУМа!
24.kg · 2 ч назад
«Платье мести» принцессы Дианы впервые после ее смерти выставят на аукцион
24.kg · 2 ч назад
В Минсельхозе КР рассказали о преимуществах интенсивного грушевого сада