OpenAI заблокировала аккаунты северокорейской хакерской группы, подозреваемой во вредоносной деятельности

27 февраля разработчик ChatGPT OpenAI заявил, что компания заблокировала и удалила аккаунты северокорейских пользователей, которые подозреваются в использовании ее технологии для осуществления вредоносной деятельности, включая слежку и манипулирование общественным мнением. OpenAI в своем отчете отметила, что подобные действия являются способами, с помощью которых авторитарные режимы могут использовать технологию ИИ для осуществления контроля над Соединенными Штатами и их собственным народом. Компания добавила, что для обнаружения этих вредоносных операций она использует инструменты искусственного интеллекта. OpenAI не раскрывает точное количество заблокированных аккаунтов или временные рамки, в течение которых были совершены эти действия. В одном случае злоумышленники, возможно, связанные с Северной Кореей, использовали ИИ для создания поддельных резюме и онлайн-профилей соискателей с целью мошеннического трудоустройства в западных компаниях. Кроме того, существует ряд аккаунтов ChatGPT, подозреваемых в причастности к финансовому мошенничеству в Камбодже, которые используют технологию OpenAI для перевода и создания комментариев в социальных сетях и на коммуникационных платформах (включая X и Facebook).