OpenAI лишила доступа хакеров к ChatGPT

Разработчики компании OpenAI пресекли возможность использования своих продуктов киберпреступниками, связанными с правительствами различных стран.

Совместно с Microsoft Threat Intelligence они обнаружили и удалили пять принадлежащих злоумышленникам аккаунтов. В их числе:

• связанные с правительством КНР хакеры Charcoal Typhoon и Salmon Typhoon;
• Crimson Sandstorm (Иран);
• Emerald Sleet (КНДР);
• Forest Blizzard (РФ).

В ходе расследования установлено, что Charcoal Typhoon с помощью ИИ исследовали различные инструменты кибербезопасности, отладку кода и создание контента для фишинговых кампаний.

Salmon Typhoon переводили технические документы, изучали деятельность спецслужб и региональных субъектов угроз, а также выясняли способы сокрытия вредоносных процессов в системе.

Crimson Sandstorm посредством ChatGPT создавали фишинговые приложения и сайты.

Emerald Sleet, помимо написания вредоносного кода, разыскивали экспертов и организации, занимающихся вопросами обороны в Азиатско-Тихоокеанском регионе.

Forest Blizzard запрашивали информацию о протоколах спутниковой связи и технологии радиолокационной визуализации.

В результате внутреннего расследования OpenAI выяснили, что версия чат-бота GPT-4 предлагает лишь ограниченные возможности для выполнения злонамеренных задач. Тем не менее разработчики намерены улучшать безопасность своих продуктов, изучая реальный опыт их использования в киберпреступной деятельности и вводя усиленный мониторинг пользовательского взаимодействия с платформой. 

Источник: cryptocurrency.tech