AI News — релизы и анонсы
AI News — релизы и анонсы

Astra может достичь критического уровня кибервозможностей

  • Что произошло: OpenAI сообщила, что по результатам внутренних оценок модель Astra, одна из предстоящих моделей, может достичь критического уровня кибервозможностей согласно их Preparedness Framework. Это означает, что модель потенциально способна самостоятельно разрабатывать функциональные zero-day эксплойты для многих защищенных реальных критических систем или создавать комплексные стратегии кибератак.
  • Суть: Компания признала, что не может исключить достижение моделью критического порога кибербезопасности, что является значительным сдвигом по сравнению с предыдущими моделями, оценивавшимися как высокий (High) уровень. В ответ OpenAI ужесточает меры безопасности: вводит более строгие контроли для моделей с высокими возможностями, приостанавливает внутренние активности с Astra, не соответствующие новым требованиям, внедряет универсальный мониторинг рискованных действий, планирует сотрудничество с правительственными агентствами и организациями по безопасности ИИ, а также предоставит рекомендации по безопасности третьим сторонам. Это важно, поскольку демонстрирует проактивный подход к управлению рисками на переднем крае развития ИИ и подчеркивает необходимость баланса между инновациями и безопасностью.
  • Ссылка: https://openai.com/index/responding-to-the-next-frontier-of-critical-cyber-capabilities/

This summary was generated by AI from the source material. It may contain inaccuracies — check the original.

Original truncated — read the full text at the source

Sources

More in “AI News — релизы и анонсы”

Fresh from other feeds