Astra может достичь критического уровня кибервозможностей
Что произошло: OpenAI сообщила, что по результатам внутренних оценок модель Astra, одна из предстоящих моделей, может достичь критического уровня кибервозможностей согласно их Preparedness Framework. Это означает, что модель потенциально способна самостоятельно разрабатывать функциональные zero-day эксплойты для многих защищенных реальных критических систем или создавать комплексные стратегии кибератак.
Суть: Компания признала, что не может исключить достижение моделью критического порога кибербезопасности, что является значительным сдвигом по сравнению с предыдущими моделями, оценивавшимися как высокий (High) уровень. В ответ OpenAI ужесточает меры безопасности: вводит более строгие контроли для моделей с высокими возможностями, приостанавливает внутренние активности с Astra, не соответствующие новым требованиям, внедряет универсальный мониторинг рискованных действий, планирует сотрудничество с правительственными агентствами и организациями по безопасности ИИ, а также предоставит рекомендации по безопасности третьим сторонам. Это важно, поскольку демонстрирует проактивный подход к управлению рисками на переднем крае развития ИИ и подчеркивает необходимость баланса между инновациями и безопасностью.