Generał Andrzejczak ostrzega: Wojskowa sztuczna inteligencja i ryzyko błędnych decyzji

Generał podkreśla, że ostateczne reguły działania algorytmów definiuje człowiek. Choć maszyny potrafią przetwarzać informacje z niezwykłą prędkością, to ludzie muszą wcześniej określić, kto jest celem, jak ważne jest jego wyeliminowanie oraz jaki poziom strat wśród osób postronnych uznaje się za dopuszczalne. W rozmowie z Aleksandrą Przegalińską w programie „ZNAM PRZYSZŁOŚĆ”, generał posłużył się hipotetycznym przykładem.

Gdyby system uznał Przegalińską za cel priorytetowy, mógłby śledzić sygnał jej telefonu, potwierdzać tożsamość za pomocą rozpoznawania twarzy lub dronów i automatycznie dobrać środek rażenia. Jeśli człowiek zaakceptowałby wysoki poziom strat ubocznych, obecność osób trzecich, w tym ekipy filmowej w studiu, nie wstrzymałaby ataku. Istotny problem pojawia się również w sytuacjach, gdy dane dostarczane systemowi są technicznie poprawne, ale prowadzą do błędnych wniosków operacyjnych.

Jako przykład Andrzejczak wskazuje sytuację, w której cel przekazuje swój telefon innej osobie przed spotkaniem. Jeśli system uzna to urządzenie za wystarczający identyfikator, może zaatakować przypadkową osobę, która znalazła się w pobliżu. W ocenie generała, w tej wizji wojny przyszłości maszyna nie musi wymykać się spod kontroli ani samodzielnie podejmować decyzji o zabijaniu. System może wykonać zadanie dokładnie zgodnie z instrukcjami, jednak w sposób, który prowadzi do śmierci niewinnych osób.

To sprawia, że wraz z postępem wojskowej sztucznej inteligencji kluczowe staje się pytanie o odpowiedzialność za ostateczne decyzje o życiu i śmierci.