Za tydzień państwa zajmą się bronią autonomiczną

Za tydzień państwa spotkają się na siódmej konferencji przeglądowej konwencji o określonych rodzajach broni konwencjonalnej. Wysoki komisarz ONZ do spraw praw człowieka wezwał je w piątek do pilnego rozpoczęcia rozmów nad wiążącymi zasadami dla autonomicznych systemów uzbrojenia.

Chodzi o systemy, które mogą umożliwiać użycie siły bez wystarczającej ludzkiej oceny tego, kogo należy zaatakować i jak podejmowane są decyzje. Tempo rozwoju technologii sprawia, że takie systemy mogą w niedalekiej przyszłości stać się powszechnie dostępne, dlatego okno na stworzenie skutecznych reguł szybko się zamyka.

Maszyna nie może decydować o życiu i śmierci

Wysoki komisarz wskazał, że autonomiczne systemy uzbrojenia rodzą poważne pytania o prawo do życia, ludzką godność i odpowiedzialność za skutki ataku. Największe zagrożenie polega na tym, że maszyna może użyć siły bez wystarczającej ludzkiej oceny tego, kogo atakuje i w jakich okolicznościach.

Jego zdaniem państwa powinny zakazać autonomicznych broni, które same atakują ludzi albo zostały do tego zaprojektowane. Zakaz miałby objąć także systemy, których działania i skutków użytkownik nie potrafi w pełni zrozumieć, przewidzieć, wyjaśnić ani kontrolować.

Pełny zakaz ma być właściwą reakcją tam, gdzie nie da się wykluczyć przewidywalnego ryzyka poważnych naruszeń lub rozmycia odpowiedzialności. Maszyna nie rozumie wartości ludzkiego życia, nie ocenia kontekstu tak jak człowiek i nie może odpowiadać za decyzję, gdy coś pójdzie źle.

Ten sam problem dotyczy policji

Apel obejmuje również śmiercionośne i nieśmiercionośne autonomiczne systemy używane przez policję. Według wysokiego komisarza maszyna nie potrafi stale i zależnie od sytuacji ocenić, czy użycie siły jest konieczne oraz czy dostępne są łagodniejsze środki.

Użycie autonomicznych systemów przeciw ludziom podczas działań policyjnych miałoby też zagrażać prawu do pokojowych zgromadzeń, zakazowi dyskryminacji, odpowiedzialności i prawu do naprawienia szkody.

Państwa mają rozpocząć negocjacje

Konferencja odbywa się raz na pięć lat i może mieć duże znaczenie dla dalszych prac nad autonomicznymi systemami uzbrojenia. Państwa stoją przed jasnym wyborem: rozpocząć negocjacje nad prawnie wiążącym porozumieniem z jasnymi zakazami i ograniczeniami, zanim stworzenie skutecznych zabezpieczeń stanie się trudniejsze.

Wysoki komisarz ostrzegł także, że bez zakazu autonomiczne bronie przeciw ludziom będą się rozpowszechniać. Z czasem mogą stać się łatwiej dostępne nie tylko dla państw, lecz również dla grup zbrojnych i organizacji przestępczych.

Cieszy mnie, że w tej debacie tak jasno wybrzmiewa odpowiedzialność człowieka za użycie przemocy. Mam jednak wątpliwość, czy państwa potrafią uzgodnić wspólne, wiążące zasady, zanim technologia stanie się łatwiejsza do zdobycia.

- Natalia