Decyzja holenderskiego regulatora i kulisy śledztwa
Holenderski Urząd Ochrony Danych nałożył na firmę Uber gigantyczną karę w wysokości 825 mln euro, co w przeliczeniu daje około 966 mln dolarów. Powodem sankcji jest wykorzystywanie zautomatyzowanych systemów do zawieszania i dezaktywowania kont kierowców bez zapewnienia odpowiedniej przejrzystości oraz nadzoru człowieka. Przepisy unijnego rozporządzenia o ochronie danych osobowych ograniczają sytuacje, w których algorytmy samodzielnie podejmują decyzje mające istotny wpływ na życie człowieka.
Holenderski regulator prowadził sprawę, ponieważ europejska centrala Ubera znajduje się w Holandii. Postępowanie zostało wszczęte po skardze złożonej we Francji.
Praktyki algorytmów i zarzuty wobec platformy
Sprawa dotyczy praktyk stosowanych między 2020 rokiem a 2022 rokiem. Systemy Ubera czasowo zawieszały konta kierowców podejrzewanych o oszustwa, m.in. w sytuacjach, gdy algorytm uznawał, że kierowca celowo wybierał dłuższe trasy w celu zawyżenia opłat lub przyjmował kursy bez zamiaru ich realizacji. Regulator wskazał również na przypadki trwałego usuwania z platformy osób z niskimi ocenami klientów bez angażowania człowieka w proces podejmowania ostatecznej decyzji.
Unijne przepisy RODO zobowiązują do zapewnienia możliwości zakwestionowania takich rozstrzygnięć oraz odpowiedniej kontroli człowieka. Część decyzji miała jednak zapadać bez możliwości weryfikacji przez osoby, których dotyczyły, a kierowcy nie byli właściwie informowani o stosowaniu zautomatyzowanego podejmowania decyzji.
Stanowisko Ubera i zapowiedź odwołania
Uber zakwestionował decyzję i zapowiedział odwołanie od rozstrzygnięcia w sądzie. Koncern przekazał, że uważa karę za nieproporcjonalną, a jej obecne procedury przewidują kontrolę człowieka oraz możliwość odwołania się kierowców od decyzji o zawieszeniu konta. Firma podkreśla także, że nigdy nie podejmowała decyzji o permanentnym wykluczeniu kierowcy bez udziału pracownika, a większość zabezpieczeń kont miała charakter tymczasowy.