Technologia rozpoznawania twarzy może okazać się przydatna w pewnych scenariuszach, takich jak uwierzytelnianie biometryczne czy "inteligentne" miejsce pracy. Z oczywistych przyczyn technologia ta budzi również obawy. Nietrudno sobie wyobrazić, co się stanie, gdy trafi ona do niewłaściwych rąk. By się przed tym ustrzec, koalicja ponad 85 grup aktywistów wysłała listy do Microsoftu, Amazona i Google z naciskiem, by firmy te nie sprzedawały rządowi swoich technologii rozpoznawania twarzy.
W skład koalicji wchodzą takie organizacje, jak American Civil Liberties Union (ACLU), National Lawyers Guild chapters czy Freedom of the Press Foundation. W wysłanym przez nią dwa dni temu liście można przeczytać, że udostępnienie rządowi wspomnianej technologii zagraża bezpieczeństwu członków społeczności oraz podważy zaufanie publiczne. Powód? Oprogramowanie do rozpoznawania twarzy daje rządowi zdolność namierzania imigrantów, mniejszości religijnych i osób o różnych kolorach skóry, co może prowadzić do zaostrzenia uprzedzeń historycznych. Tak przynajmniej twierdzi koalicja, choć naszym zdaniem zagrożone są nie tylko mniejszości, ale i właściwie wszyscy obywatele. Sztuczna inteligencja w rękach polityków i grup o zapędach autorytarnych, zafiksowanych na kontroli, oznacza totalitarną dystopię - to właściwie już się dzieje w Chinach.
Jak mówi Nicole Ozer, dyrektor ds. technologii i swobód obywatelskich w ACLU: Firmy nie mogą dalej udawać, że podejście "zepsuj, a potem napraw" działa. W kwestii inwigilacji [na podstawie] twarzy jesteśmy teraz na rozdrożu, a wybory dokonywane przez te firmy przesądzą o tym, czy następne pokolenie będzie musiało się obawiać, że zostanie wyśledzone przez rząd za udział w proteście, udanie się do miejsca kultu religijnego lub po prostu życie własnym życiem. List kierowany jest do tych firm, których nastawienie do sprzedaży nowych technologii mieści się w zakresie od ostrożności do chęci.
Ze wspomnianej trójki najostrożniejsze jest Google. Firma zadeklarowała niedawno, że nie będzie sprzedawać oprogramowania do rozpoznawania twarzy, dopóki potencjalne zagrożenia nie zostaną wyeliminowane. Nastąpiło to kilka miesięcy po tym, jak kilku jego pracowników odeszło z pracy w ramach protestu przeciwko kontraktowi firmy z Pentagonem. Chodzi tu o niesławny projekt JEDI, oprotestowany też przez pracowników Microsoftu. Ostatecznie Google wycofało swoją kandydaturę, tłumacząc to brakiem pewności, że projekt jest zgodny z jego zasadami wykorzystywania sztucznej inteligencji. Google zakazuje używania swojego oprogramowania AI w broniach lub usługach naruszających normy międzynarodowe w zakresie inwigilacji i praw człowieka. Microsoft takich skrupułów najwyraźniej nie ma, bowiem mimo listu protestacyjnego pracowników oświadczył, że nie ma zamiaru rezygnować z udziału w przetargu.
Dużo zdrowsze wydaje się natomiast podejście Microsoftu do technologii rozpoznawania twarzy. Brad Smith, President w Microsoft, w grudniowym poście drobiazgowo analizował związane z nią zagrożenia i poinformował, że Microsoft zobowiązuje się do ich rozwiązania wewnętrznie. Smith wzywał również rządy do stworzenia odpowiednich regulacji odnośnie do korzystania z tej technologii.
Na niechlubnym krańcu tego spektrum (ostrożność - chęć sprzedaży) plasuje się Amazon, który nadal sprzedaje oprogramowanie do rozpoznawania twarzy agencjom rządowym. W ubiegłym roku CEO firmy, Jeff Bezos, powiedział CNN, że to społeczeństwo ostatecznie zajmie się wszelkimi złymi sposobami użycia tej technologii. Jest to więc całkowite zrzucenie odpowiedzialności za własną technologię na tę warstwę społeczną, która staje się właśnie potencjalną ofiarą całej tej kuriozalnej sytuacji. O tym, do czego prowadzi brak regulacji w tym zakresie, zapewne wkrótce się przekonamy. W tym miesiącu FBI rozpoczęło podobno program pilotażowy z oprogramowanie Amazona o nazwie Rekognition, które pomóc ma w przeglądaniu nagrań z monitoringu zebranych podczas śledztwa. Amazon miał również spotkać się z amerykańskim Urzędem Celno-Imigracyjnym (ICE), aby omówić użycie Rekognition. Co ciekawe, przeciwko współpracy z tym urzędem protestowała część pracowników Microsoftu, jednak w ostatecznym głosowaniu większość była za kontynuacją współpracy.
Powiedzieć, że opracowanie dobrych regulacji w zakresie użycia AI i rozpoznawania twarzy to rzecz trudna, to jak nie powiedzieć nic. Naszym zdaniem potrzebna jest na ten temat debata publiczna z udziałem zarówno obywateli, jak i firm technologicznych oraz rządu. Na pewno nie powinna decydować o tym jedna osoba czy organ niepoparty społecznym zaufaniem. Wiemy, że niektóre agencje rządowe nic sobie nie robią z regulaminów korzystania z usług technologicznych i starają się używać ich niezgodnie z przeznaczeniem. Przepisy o randze konwencji międzynarodowych mogłyby to jednak powstrzymać.
