Socjotechnika a sztuczna inteligencja. Czy maszyny mogą stać się mistrzami manipulacji?
Sztuczna inteligencja ma wiele zalet i potrafi wesprzeć czy częściowo zautomatyzować naszą pracę. Niestety – jest też w stanie zrobić to dla osób, których intencje są dyskusyjne… Czy sztuczna inteligencja to mistrz manipulacji?
- Damian Jemioło
- /
- 27 października 2023
Sztuczna inteligencja gromadzi nasze dane
Po boomie na takie platformy, jak Dall-e, ChatGPT czy Midjourney generatywna sztuczna inteligencja przedarła się do dyskursu publicznego. Dziś o tych narzędziach słyszało całe mnóstwo ludzi. Spora część również z nich korzysta – i to na co dzień.
10(19) 2023 SECURITY MAGAZINE Monika Świetlińska
Jak dobrze wiemy – przykładowo taki ChatGPT tworzony był na podstawie informacji dostępnych publicznie w internecie, licencji wykorzystujących 3rd part cookies czy ręcznie udostępnionych danych przez ludzi.
Algorytmy nas uzależniają?
Prawda jest więc taka, że sami niejako „wyhodowaliśmy” sztuczną inteligencję z tego, co wrzucamy do internetu i jak się w nim poruszamy. Dość powiedzieć, że np. rozpoznania obrazów były trenowane dzięki reCAPTCHA, w których nierzadko musieliśmy zaznaczać czy wykluczać jakieś obrazki.
Ponadto sztuczna inteligencja to również algorytmy wszystkich gigantów technologicznych, które służą nam do podrzucania interesujących nas treści, czy produktów w celu utrzymania nas na danej platformie jak najdłużej. I już tutaj możemy mówić o formie socjotechniki i manipulacji – w końcu dość powiedzieć, że np. TikTok niedawno został pozwany w Stanach Zjednoczonych za bycie „uzależniającym” – i przyczynia się do tego m.in. algorytm.
Dzięki temu różnego rodzaju AI – zwłaszcza te generatywne – względnie dobrze rozumieją, jak działają ludzie. I choć mają blokady (które notabene można ominąć), to są w stanie wygenerować dla cyberprzestępców manipulacyjne treści.
możemy Ci pomóc w analizie i zgłoszeniu do UODOWyciekły w Twojej firmie dane osobowe
Jak sztuczna inteligencja zmienia phishing?
Jedną z kategorii, która pokazuje, jak mocno AI wpływa na cyberprzestępczość i manipulacje jest przykład phishingu. Ten rodzaj cyberataku znacząco się zwiększył w momencie rozpowszechnienia się narzędzi generatywnego AI i ostrzegają przed tym wszystkie wielkie firmy.
A co najgorsze – jak pokazuje raport Egress Phishing Threat Trends detektory sztucznej inteligencji w 71,4% przypadków nie są w stanie stwierdzić, czy dana wiadomość phishingowa jest dziełem człowieka, czy AI.
Ponadto sztuczna inteligencja wspiera cyberprzestępców w tworzeniu lepszych, wiarygodniejszych treści phishingowych. Większość tego typu wiadomości rozpoznaje się po dość niechlujnym stylu, nierzadko niepoprawnym formom językowym – to jednak od rozpowszechnienia się narzędzi AI znacząco się zmieniło.
Sztuczna inteligencja potrafi dość dobrze operować językiem naturalnym i dobrze radzi sobie z tłumaczeniami na języki obce. A im więcej danych cyberprzestępca dostarczy w prompcie o swojej potencjalnej ofierze, tym łatwiej będzie wygenerować spersonalizowany atak, np. typu BEC.
AI w manipulacji vishingowej i deepfake
Co gorsza – nieregulowany rozwój AI doprowadził też do powstania skutecznych narzędzi, które potrafią imitować ludzki głos z niezwykłą dokładnością. To sprawia, że dziś (w połączeniu z technologią deepfake) o wiele prościej podszyć się pod znane osoby i prowadzić wyjątkowo skuteczne ataki spersonalizowane.
Wystarczy przypomnieć np. kampanie cyberprzestępców, którzy za pomocą deepfake’a i dubbingu AI podszywali się chociażby pod Mateusza Morawieckiego czy Janusza Kowalskiego, aby promować nieistniejące inwestycje i zachęcać tym samym do udostępnienia swoich danych czy wysyłki pieniędzy.
Czym jest vishing?Joanna Gościńska
Niestety – jeśli nie zaczniemy regulować rynku i nie stworzymy skutecznych narzędzi do zwalczania takiej działalności, to sztuczna inteligencja przyczyni się do wzrostu i ułatwienia procederu cyberprzestępczego. W zasadzie – już to robi.
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca. Jeśli chcesz być na bieżąco
z informacjami za zakresu bezpieczeństwa, zapraszamy do naszego serwisu
ponownie!
Jeżeli
podobał Ci się artykuł podziel się z innymi udostępniając go w mediach
społecznościowych.
Potrzebujesz wsparcia lub szukasz rozwiązań w zakresie zagadnienia, o którym mowa w artykule?