16 квітня 2025 року відбулася відкрита лекція викладача кафедри Мстислава Казакова на тему “Принципи безпечного дизайну” (Safe Design Principles) в рамках курсу “Етика Штучного Інтелекту“, присвячена фреймворку “Безпеки за задумом”, стратегії створення безпечного та етичного ШІ, центральною ідеєю якої є вбудовування безпеки в систему Штучного інтелекту на фазі дизайну.

На прикладах конкретних принципів (резервування, антикрихкість, відмовостійкість, мінімізація привілеїв тощо) було продемонстровано відмінності даної стратегії від стратегій побудови системи без задумів безпеки із додаванням безпекових заходів на більш пізніх фазах життєвого циклу системи ШІ (розробка, тренування, розгортання).

Актуальність, адекватність та своєчасність деяких принципів було переглянуто та поставлено під сумнів в світлі нещодавніх інцидентів (The AI Scientist – японського інтелектуального агента, який змінює власний код для зламу та обходу людських обмежень) та найостанніших досліджень в області ШІ (“Про біологію Великої мовної моделі” дослідницької команди компанії Anthropic) і нових викликів, які вони кидають шляхам реалізації стратегії “Безпеки за задумом”.

Лекцію було проведено в рамках популяризації проєкту Pan-European Network for Responsible Artificial Intelligence Multisector Masters’ Programme (PANORAIMA)