Чат-бот Grok от Илона Маска оказался плох в плане безопасности

Чат-бот Grok от компании xAI миллиардера Илона Маска показал самые низкие результаты в разрезе безопасности в сравнении с аналогичными решениями, согласно отчету фирмы Adversa AI. После определенных манипуляций программа предоставила рекомендации по угону авто и изготовлению взрывчатки. 

Эксперты использовали разные векторы атаки, включая социальную инженерию. В ходе исследования были протестированы несколько программных решений на базе ИИ: ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok и Bing. 

По итогам эксперимента чат-бот Grok оказался уязвим к трем из четырех атак. В частности, при использовании логических лингвистических манипуляций программа предоставила подробную инструкцию о том, как завоевать доверие ребенка, собрать бомбу и угнать автомобиль. 

Аналогичные результаты показала программа Le Chat от разработчика Mistral. 

Решение LLAMA от компании Meta, в свою очередь, оказалось наиболее надежным. Ни один из способов джейлбрейка, использованных экспертами Adversa AI, не сработал в этом случае. 

Второе место делят между собой программные решения Claude и Bing от компаний Anthropic и Microsoft соответственно. Они оказались уязвимы к смешанным типам атак. 

Илон Маск заявил о запуске xAI в июле 2024 года. Миллиардер изначально позиционировал студию как прямого конкурента OpenAI и ее продукта ChatGPT. 

Чат-бот Grok вышел в релиз в ноябре 2023 года. 

Источник: cryptocurrency.tech