| +22 голоса |
|
Компанія NWU, офіційний дистриб’ютор продуктів Vectra AI на території України, публікує прогнози, які підготували експерти вендора, щодо генеративного AI у сфері кібербезпеки на 2024 рік.
Зазначається, що у 2023 році генеративний AI став мейнстримом, і дедалі більше людей у регіонах, галузях і на керівних посадах використовують цю технологію.
У дослідженні McKinsey "Стан AI у 2023 році: Рік прориву генеративного AI", 79% респондентів заявили, що тією чи іншою мірою стикалися з генеративним AI на роботі або поза нею, а 22% заявили, що регулярно використовують його у своїй роботі.
Попри те, що впровадження генеративного AI та інвестиції в нього зростають, звіт McKinsey показав, що багато організацій не враховують потенційних ризиків, пов'язаних із GenAI. Менше третини респондентів заявили, що у них є заходи щодо скорочення використання передових технологій AI для зниження ризиків кібербезпеки.
За прогнозами, у 2024 році генеративний AI відіграватиме ще важливішу роль у бізнесі та суспільстві. Згідно з останніми дослідженнями, застосування генеративного AI зростатиме в геометричній прогресії: прогнозується 30-відсоткове зростання його використання в різних галузях. У міру того як ці інтелектуальні системи на базі AI та машинного навчання все більше впроваджуються в наше повсякденне життя, у сфері кібербезпеки з'являються як проблеми, так і інновації.
Генеративний AI: інструмент для інновацій і виклик для кібербезпеки
Підготовка до майбутнього: Стратегії кібербезпеки в епоху AI
Олівер Таваколі, директор із технологій Vectra AI, прогнозує, що генеративний AI знизить ефективність захисту електронної пошти. "Крім того, використання генеративного AI в атаках соціальної інженерії стане тривожним сигналом, що свідчить про неадекватність наявних ліній захисту. У зв'язку з цим я очікую, що організації перейдуть на більш сучасні підходи до безпеки, такі як Zero Trust, мікросегментація, а також механізми виявлення і реагування", зазначає він.
Політичні наслідки: Роль AI у виборах і цілісність інформації
Сохроб Казеруніан, заслужений дослідник AI в компанії Vectra AI, вважає, що напередодні виборів 2024 року генеративний AI вплине на недовіру до виборів і дезінформацію: "Широка доступність моделей генеративного AI та відносна простота їхнього використання матимуть далекосяжні наслідки, з огляду на те, що в США зараз проходить рік виборів. Дезінформація в масштабах, з якісним контентом (наприклад, підроблені аудіо та відео кандидатів, масова фантастика, яку видають за новини тощо) стане простішою, ніж будь-коли раніше. Неможливість довіряти своїм почуттям може призвести до недовіри та параної, що ще більше зруйнує соціальні та політичні відносини між людьми".
Зміна тенденцій у сфері AI: LLM знижуються, а глибокі підробки зростають
Крістіан Борст, технічний директор Vectra AI в регіоні EMEA, вважає, що широке використання LLM зійде нанівець, але глибокі підробки різко зростуть. "Багато організацій вивчають можливості використання великих мовних моделей (LLM) після першої хвилі галасу цього року. Але якщо зазирнути глибше, стає зрозуміло, що фактор новизни скоро випарується. Як правило, LLM досить складні у використанні, оскільки вони не здатні зрозуміти контекст або забезпечити надійні результати, тому їхнє широке практичне застосування обмежене. Тому наступного року ми побачимо, як компанії скорочують використання LLM, чекаючи, поки ці інструменти стануть більш функціональними та зручними для користувачів.
"Суб'єкти загроз зіткнуться з тими самими проблемами під час використання LLM, тому ми, найімовірніше, не побачимо багато складної діяльності, такої як генерація шкідливого коду штучним інтелектом. Однак ми можемо очікувати, що кіберзлочинці використовуватимуть генеративний AI для створення більш реалістичних і складних підробок. Це дасть їм більше шансів обманом змусити користувачів передати конфіденційні дані або натиснути на шкідливу кнопку за допомогою більш переконливих аудіо- або візуальних фішингових приманок".
Нормативно-правова база: баланс між інноваціями та контролем над AI
Коли справа доходить до генеративного AI (і AI загалом), регулювання і політика відіграватимуть велику роль у 2024 році. За словами Хітеша Шета, генерального директора Vectra AI, майбутнє AI залежатиме від рішень регуляторів. "У 2024 році, за моїми прогнозами, ми станемо свідками монументального прогресу в галузі регулювання і політики AI. Ґрунтуючись на указі президента Байдена про штучний інтелект, особи, які ухвалюють рішення в урядових органах, оцінять і введуть у дію конкретніші правила, щоб обмежити ризики AI та використовувати його переваги. Оскільки AI продовжує розвиватися, важливо, щоб у нормативних актах, що розробляються, було дотримано баланс між забезпеченням прозорості та заохоченням інновацій, які розвиваються швидкими темпами".
З цим згоден і Сохроб Казеруніан, видатний дослідник AI, який пророкує, що етичні, правові та політичні дилеми AI стануть причиною судових розглядів. "Етичні, правові та соціально-політичні питання, що стосуються AI, будуть тільки загострюватися. З огляду на загальний політичний параліч у США, малоймовірно, що надійні нормативно-правові основи регулювання AI з'являться так швидко, як це необхідно. Кількість судових позовів щодо матеріалів, захищених авторським правом, які використовуються для навчання генеративних моделей AI, зростатиме".
Прийняття AI з обережністю і відповідальністю
Немає сумнівів у тому, що генеративний AI істотно змінить ландшафт кібербезпеки. Він здатний удосконалити інструменти безпеки, підвищити ефективність аналізу загроз і перетворити операційні центри безпеки. Використовуючи ці можливості, давайте діятимемо обережно, озброївшись знаннями, стійкістю і прагненням бути на крок попереду в цьому складному танці.
Генеративний AI відкриває нові та захоплюючі можливості для використання технологій у боротьбі з кібератаками, що і є основним завданням компанії Vectra AI.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| +22 голоса |
|
