Блог
Gemini под огнём: уязвимости, API-ключи и вредоносное ПО
Проблема не в самой нейросети, а в несовершенствах внедрения и масштабе интеграции Google.
«Проблема заключается не в самой нейросети, а в несовершенствах её внедрения. В случае с тем же PromptSpy хакеры используют ИИ для анализа чужого экрана — и с тем же успехом мог быть использован ChatGPT. Gemini везде мелькает просто потому, что Google агрессивно встраивает его в сервисы с миллиардной аудиторией».
«Тема безопасности ИИ сейчас выходит на передний план в кибербезопасности». В качестве ориентиров — международные стандарты OWASP, MITRE ATLAS и практика «красных команд» в крупных IT-корпорациях для тестирования нейросетей до релиза.