Четири дни след терористичната атака в „Крокус Сити Хол“ в Москва, терористичната група «Вилаят Хорасан» публикува видео от атаката. В 92-секундното видео водещият, с каска и камуфлаж обяснява, че инцидентът не е терористичен акт, а е част от „нормалния контекст на бушуващата война между ИД и страните, борещи се с исляма“. Разследващата организация SITE Intelligence Group установи, че фигурата на „водещия“ всъщност е генерирана от изкуствен интелект, а самото видео е част от пропагандна програма News Harvest, генерирана от AI. Washington Post пише за това как технологията позволява на поддръжниците на ИД бързо и ефективно да разпространяват екстремистка пропаганда.
Благодарение на изкуствения интелект ислямистите успяват бързо и евтино да създават видеоклипове за терористични атаки. Сходството им с обикновените новинарски програми ги прави все по-трудни за проследяване и блокиране.
В средата на март 2024 г. поддръжник на ИД под псевдонима Al-Kurdi 500, в защитен месинджър, се опита да оправдае пред съмишлениците си необходимостта от използване на AI за пропаганда. „Би било страхотно, ако братята правят видеоклипове на ежедневни събития като алтернатива на текстови новини и изображения“, се казва в съобщение, до което са получили достъп следователите. „Медиите са също толкова важни, колкото истинската война, ако не и повече, защото имат много силно влияние върху хората“. Al Kurdi предположи, че технологията може да се използва за създаване на съдържание „като новинарски канал, например като Ал Джазира“.
Седмица след това съобщение в Москва беше извършена терористична атака, в резултат на която бяха убити 145 души и най-малко 550 бяха ранени. Привърженик на Ислямска държава с прякор Hisad генерира видео за атаката и го публикува в защитено приложение за съобщения на 26 март. Общо след нападението срещу „Крокус Сити Хол“ поддръжниците на ислямистите пуснаха шест епизода от програмата News Harvest с разкази за дейностите на ИД в Нигер, Камерун, Ирак, Сирия и Нигерия. Всеки видеоклип беше придружен от лого и заставка. Във всички видеоклипове генериран от AI водещ, облечен във военно или официално традиционно облекло, чете откъси от публикации на Ислямска държава. Речите бяха придружени от тикерна лента и видеоклипове, показващи терористични атаки.
Според ръководителя на SITE Intelligence Group Рита Кац, развитието на AI е „повратна точка“ за ИД. „Сега те имат бърз начин да известят за своите убийствени атаки до най-отдалечените краища на света“, обясни Кац пред Washington Post. „Ако извършите голяма атака и не разказвате за нея, вашето постижение става безполезно. AI позволява на терористите да създават толкова [съдържание], колкото желаят, за кратко време.“
Ислямска държава и преди е водила активна пропаганда в интернет и е публикувала качествени видеоклипове, за да набира поддръжници. Генерирането на видеоклипове с помощта на изкуствен интелект позволи на терористите да разширят тази област, като същевременно значително да намалят разходите. Освен това, както обяснява Кац, отнема много време за проследяване и блокиране на видеоклиповете, създадени с помощта на AI, тъй като те са подобни по формат на новинарските програми. Такива видеоклипове се публикуват в първите дни след терористичните атаки и остават достъпни по-дълго от тези, които директно демонстрират насилие.
Поддръжниците на терористите публикуват съдържание, генерирано от AI, главно в месинджъри и социални мрежи, например Rocket.Chat, Telegram и X (бивш Twitter). Според ръководителя на Института за изследване на медиите в Близкия изток (MEMRI), Стивън Сталински, платформите не се справят добре с мониторинга на подобно съдържание.
Представителката на Rocket.Chat по връзки с обществеността Лаис Мачадо Роча обясни, че месинджърът е платформа с отворен код, която не помества съобщения на своите сървъри и следователно не може да ги изтрие. Роча също така увери, че разпространението на пропагандни видеоклипове на ИД е ограничено до „конкретно нелегално пространство“, организирано от поддръжници на Ислямска държава, като се имат предвид възможностите на платформата. Telegram и X не отговориха на исканията на Washington Post за коментар относно ислямисткото съдържание.
Пропагандните видеоклипове се създават без официалното участие на ИД. Но терористичните организации, включително Ал Кайда, също активно се интересуват от възможностите на AI
Спорен аспект на използването на изкуствен интелект сред поддръжниците на тероризма е технологията за генериране на лица, която официално нарушава ислямската забрана за изображение на живи същества. „Не показвайте нарисувани или анимирани лица, това е ЗАБРАНЕНО“, се казва в коментар под поредно видео на News Harvest на закрита платформа. Същият потребител Hamed 123, обяснява, че онези, които създават изображения на други хора, животни и птици, ще бъдат наказани, когато настъпи Киямат, денят на Божия съд.
Потребителят Hisad, който създава видеоклипове News Harvest, отговоря на критиката през май 2024 г. Според него той е обсъдил ситуацията с шейха и той е потвърдил, че използването на изображения, генерирани от AI, е забранено. Оттогава Hisad започна да размазва лицето на водещия във видеоклиповете.
Изпълнителният директор на MEMRI Стивън Сталински казва пред репортери, че News Harvest се създава без официалното участие на Ислямска държава. Експертът обаче не изключва възможността авторите на видеоклиповете да са част от структурата на терористичната организация. Според Сталински ИД вероятно проучва възможностите на AI за улесняване и ускоряване на процеса на информиране и набиране на поддръжници. В края на април една от медиите, подкрепящи Ислямска държава, предложи сътрудничество на тези, които знаят как да създават плакати, да пишат текстове, да редактират видеоклипове, да познават програмите Adobe Photoshop и Premiere, а също така да знаят как да използват AI технологии.
През февруари тази година свързана с Ал Кайда група обяви, че ще проведе онлайн курсове за използването на изкуствен интелект. На следващия ден тя, заедно с друга организация на Ал Кайда, публикува текст от 50 страници, озаглавен „Невероятни употреби на AI Chatbots“, който обяснява основите на ChatGPT, разработен от компанията OpenAI. „ChatGPT е мощен инструмент“, се казва във въведението към ръководството, до което получиха достъп служители на SITE Intelligence Group. „Нека да видим как можем да го използваме.“
Разследващите все още не са успели да установят каква технология използват пропагандистите, за да създадат News Harvest. Известно е, че някои поддръжници на ИД в кореспонденция са предложили да се използва програма за клониране на глас, разработена от Eleven Labs. Компанията не отговори на искането на The Washington Post за коментар относно възможното използване на продукта за насърчаване на пропагандата на Ислямска държава.
Източник: meduza.io // Превод: Opposition
