PhotoDNA to technologia Microsoftu, która pomaga identyfikować i usuwać z Sieci obrazy i wideo, przedstawiające maltretowanie czy wykorzystywanie seksualne dzieci. Jest ona bezpłatnie udostępniana partnerom z branży technologicznej i innym organizacjom. Indyjskie władze wpadły jednak na pomysł, by wykorzystać PhotoDNA niezgodnie z jego przeznaczeniem.
Niemałe kontrowersje wywołało żądanie indyjskiego Central Bureau of Investigation, które chce, aby sieci społecznościowe skanowały zdjęcia użytkowników właśnie przy użyciu PhotoDNA. Rzecz w tym, że CBI chce w ten sposób wyszukiwać materiały, które nie są związane z wykorzystywaniem dzieci. Jest to więc nadużycie technologii, która powstała jedynie z myślą o zwalczaniu pedofilii. PhotoDNA to potężne narzędzie, które przy pomocy sztucznej inteligencji namierza podejrzane obrazy (także pojedyncze klatki w zakamuflowanych filmach) dużo wydajniej niż całe zespoły ludzkich pracowników. Gdyby jednak zmienić przedmiot wyszukiwania, PhotoDNA może stać się narzędziem inwigilacji.
Polecenie znajduje się w sekcji 91 CrPC (Code of Criminal Procedure) i dotyczy wprowadzenia PhotoDNA w celu namierzania podejrzanych, których CBI wyszczególnia w załączniku. Wdrożenie technologii jest podobno "pilne" dla celów śledztwa. Cel, jakim jest poszukiwanie przestępców, jest i może szlachetny, ale jest to niezgodne z założeniami samego PhotoDNA:
Jeśli jakakolwiek agencja policyjna lub śledcza używa PhotoDNA w śledztwie związanym z ogólną przestępczością, to jest to potężne naruszenie przewidzianego zastosowania tej technologii, które sprowadza się jedynie do sprawdzania przypadków wykorzystywania seksualnego dzieci. Stąd już równia pochyła do inwigilacji i cenzury.
– Apar Gupta, dyrektor wykonawczy Internet Freedom Foundation
Póki co nie jest jasne, czy żądanie CBI spotka się z pozytywną odpowiedzią sieci społecznościowych, takich jak Facebook czy Twitter. Nie pojawił się na ten temat również komentarz ze strony Microsoftu.
