Szwajcarscy politycy ostrzegają przed atakami z użyciem AI

Nowe modele sztucznej inteligencji potrafią w ciągu kilku tygodni lub miesięcy rozłożyć gotowy program na części i odtworzyć jego kod w formie czytelnej dla człowieka. Taka technika może ułatwić ataki na państwowe systemy, między innymi elektroniczną tożsamość i elektroniczną dokumentację zdrowotną.

Chodzi o tak zwane odwrotne tworzenie oprogramowania. Gotowy program jest analizowany od końca, aż jego elementy oraz sposób działania stają się możliwe do odtworzenia. Nie zawsze powstaje identyczny kod, ale wynik może wystarczyć do znalezienia luk w zabezpieczeniach.

Do tej pory odtworzenie kodu wymagało dużo czasu, wiedzy i pracy. Właśnie ta trudność stanowiła jedną z warstw ochrony wielu programów. Jeżeli człowiekowi trudno było zrozumieć działanie aplikacji, część ukrytych błędów pozostawała niewykryta.

Gry pokazują możliwości nowej techniki

W świecie gier efekty widać w materiałach publikowanych w internecie. Postać z jednej gry może zostać przeniesiona do świata innej, a dwa różne tytuły mogą zostać połączone w jeden nowy produkt. Takie nagrania w ostatnich tygodniach zdobywają setki tysięcy wyświetleń.

Ten sam mechanizm ma znacznie poważniejsze skutki przy bankowości internetowej, programach firmowych i systemach państwowych. W tych przypadkach może ułatwić analizę zabezpieczeń.

Politycy żądają mocniejszych testów

Czterech członków Rady Narodowej, zajmujących się technologią, ostrzega przed obniżeniem bariery dla cyberataków. Przedstawiciel prawicowej partii mówi, że sztuczna inteligencja może znacznie ułatwić przygotowanie ataku. Pozostali trzej parlamentarzyści, z partii Zielonych, liberalnej i centrowej, zgadzają się, że kontrole bezpieczeństwa muszą nadążać za rozwojem tej technologii.

Żaden z nich nie domaga się całkowitego zatrzymania państwowych projektów cyfrowych. Wszyscy wskazują jednak, że testy systemów muszą obejmować także ataki przygotowane z użyciem sztucznej inteligencji.

Jeden z parlamentarzystów chce, aby administracja federalna regularnie próbowała atakować własne systemy przy pomocy takich narzędzi. Domaga się również niezależnych kontroli. Szczególnie ważne mają być testy elektronicznej tożsamości oraz elektronicznej dokumentacji zdrowotnej, ponieważ dotyczą one bardzo wrażliwych danych.

Jego zdaniem bezpieczeństwo nie może zależeć od tego, że kod pozostaje tajny. Postuluje też przechowywanie przez państwo tylko takiej ilości danych, jaka jest naprawdę potrzebna.

Opóźnienie wdrożenia może być lepsze niż luka

Przedstawiciel liberałów uważa, że ataki wspierane przez sztuczną inteligencję powinny stać się obowiązkową częścią testów bezpieczeństwa. Przy systemach o znaczeniu krytycznym pierwszeństwo ma mieć ochrona, a nie termin uruchomienia. Wykrycie poważnej luki powinno więc prowadzić do przesunięcia wdrożenia.

Parlamentarzysta z partii Zielonych wskazuje na inne rozwiązanie. Jego zdaniem państwowe programy powinny być tworzone jako otwarte oprogramowanie, czyli z publicznie dostępnym kodem. System ma być bezpieczny także wtedy, gdy wszyscy wiedzą, jak został zbudowany. Program, którego ochrona opiera się na tajemnicy kodu, jest szczególnie podatny na odwrotne odtwarzanie.

Przedstawiciel partii centrowej zwraca uwagę, że skopiowanie wyglądu aplikacji nie oznacza jeszcze włamania do całego systemu. O bezpieczeństwie decydują mechanizmy działające w środku. Przy elektronicznej dokumentacji zdrowotnej domaga się szyfrowania od końca do końca. Skradzione diagnozy mogłyby zostać wykorzystane do szantażu.

W przypadku elektronicznej tożsamości najważniejsza jest ochrona przed kradzieżą tożsamości oraz fałszywymi dokumentami potwierdzającymi dane. Także tutaj znalezienie poważnej luki powinno mieć pierwszeństwo przed terminem uruchomienia systemu.

Cieszy mnie, że w tej debacie bezpieczeństwo nie zostało przedstawione jako przeszkoda dla cyfryzacji, tylko jako warunek jej prowadzenia. Zaskakuje mnie skala skrócenia pracy, która wcześniej wymagała dużego wysiłku człowieka. Przy systemach przechowujących dane zdrowotne pośpiech rzeczywiście może okazać się droższy niż przesunięcie terminu.

- Natalia

Źródło: 20min.ch