Na początku miesiąca pisaliśmy o zmianach na platformie Microsoft News. Pewna liczba zatrudnionych redaktorów, którzy dobierali treści, została zastąpiona przez sztuczną inteligencję. Zastanawialiśmy się wówczas, czy algorytmy mogą dorównać w tej materii ludziom. Cóż, zdania jak zwykle były podzielone. Nie trzeba było jednak czekać długo, by AI zaliczyła swoją pierwszą medialną wpadkę.
Microsoft zwolnił kilkudziesięciu pracowników redakcji MSN.com, przechodząc na system zbierania wiadomości oparty na AI. Dla firmy ma być to jeszcze jeden krok (być może eksperymentalny) w kierunku sztucznej inteligencji, która w niektórych zadaniach może zastąpić człowieka. Z takiego podejścia znani są choćby YouTube i Facebook, którzy jednak bywają obiektami krytyki z powodu mocnego polegania na automatyzacji. Krytyka spadła też na Microsoft po tym, jak oprogramowanie do zilustrowania artykułu o rasizmie użyło zdjęcia niewłaściwej osoby rasy mieszanej z zespołu Little Mix.
News dotyczył osobistych refleksji na temat rasizmu piosenkarki Jade Thirlwall i został zilustrowany zdjęciem innej członkini zespołu, Leigh-Anne Pinnock. Thirlwall, która uczestniczyła w proteście Black Lives Matter w Londynie, skrytykowała MSN, twierdząc, że ma już dość "ignoranckich" mediów popełniających takie błędy. W poście na Instagramie napisała: @MSN, jeśli zamierzacie kopiować i wklejać artykuły z innych porządnych mediów, możecie zechcieć się upewnić, że używacie obrazu właściwej mieszanej rasowo członkini grupy.
Artystka mogła nie wiedzieć, że grafika została wybrana nie przez pracowników portalu, ale przez sztuczną inteligencję, która przynajmniej od dwóch-trzech tygodni odpowiada za dobór artykułów. „The Guardian” zapytał Microsoft, dlaczego wdrożył oprogramowanie, które nie potrafi odróżnić osób rasy mieszanej, na co rzecznik odpowiedział: Kiedy tylko zdaliśmy sobie sprawę z tego problemu, natychmiast podjęliśmy działanie, by go rozwiązać i zastąpić niewłaściwy obraz. Również jeden z pracowników wyraził swoje zaniepokojenie: Ze wszystkimi tymi antyrasistowskimi protestami, które mają teraz miejsce, to nie czas na robienie błędów. Niestety, może to nie być ostatnia sytuacja tego typu, a to z pewnością nie wróży dobrze.
