System oceny obywateli, jaki wprowadzony został w Chinach, to tylko jeden z dowodów na to, że dystopijne wizje rodem z Roku 1983 Orwella zaczynają się urzeczywistniać. Warto pamiętać, że Chiny posiadają system monitoringu, który znacznie przewyższa ten obecny w Stanach czy Europie. Obejmuje on ponad 200 milionów kamer bacznie obserwujących życie chińskich obywateli. Niedługo system ten nie tylko będzie w stanie monitorować, ale również rozpoznawać i identyfikować osoby znajdujące się w polu widzenia kamery. W ograniczonym stopniu już to potrafi.
O ile Chiński rząd nie przejawia dużego zainteresowania tematem swobód obywatelskich, to w zachodnich społeczeństwach jest on wyjątkowo istotny. W sumie nic nie stoi na przeszkodzie, by podobne technologie wprowadzono w Europie czy w USA. Grupa AI Now, która zrzesza między innymi pracowników Google oraz Microsoftu, opublikowała w czwartek dokument, w którym wyraża zaniepokojenie i zaleca wprowadzenie regulacji, dotyczących zastosowania sztucznej inteligencji do identyfikacji obywateli.
Taka regulacja powinna obejmować szereg przepisów, które będą wymagać ścisłego nadzoru, wyraźnych ograniczeń i transparentności. Społeczeństwo powinno mieć prawo do odrzucenia zastosowania tych technologii zarówno w kontekście publicznym, jak i prywatnym. Zwykłe publiczne zawiadomienie o ich wykorzystaniu nie jest wystarczające i powinny istnieć narzędzia pozwalające chronić obywateli przed nadmierną inwigilacją.
Temat ten poruszył również Brad Smith, podczas swojego przemówienia w Brookings Instituton:
Microsoft uważa, że rządy powinny zacząć przyjmować przepisy regulujące tę technologię. Z butelki wydobywa się, że tak powiem "dżin rozpoznawania twarzy". Jeśli teraz nie podejmiemy żadnych działań, to ryzykujemy, że za 5 lat może być już za późno, by coś skutecznie w tej materii zdziałać, a technologia rozpoznawania twarzy może tylko zaostrzyć problemy społeczne.
Temat ten warto poruszyć jak najwcześniej, gdy technologia ta jest jeszcze na etapie rozwoju. Specjalistów w USA zaniepokoiła informacja, że Secret Service chce wykorzystywać rozpoznawanie twarzy również poza Białym Domem. Walka z terroryzmem nie usprawiedliwia w żadnym stopniu nadmiernej inwigilacji. W przyszłości możemy się spotkać z argumentacją, że totalny nadzór jest niewielkim kosztem, w zamian za który otrzymujemy gwarancję bezpieczeństwa.
