Im bardziej realistyczne obrazy tworzy sztuczna inteligencja, tym niebezpieczniejsze się to staje. O ile w obrazkach typu "Nikt mi nie pogratulował, bo jestem ze wsi" większość osób widzi coś dziwnego, o tyle to, co tworzy ostatnio GPT-4o w ChatGPT, jest już niepokojąco prawdziwe. Wygenerowane przez nią zdjęcia paragonów trudno jest odróżnić od rzeczywistych. OpenAI nie widzi problemu.
Generatory obrazów AI do tej pory miały problemy z tekstem. Mimo że sztuczna inteligencja od dawna świetnie sobie radzi z rozpoznawaniem tekstu, to do niedawna nie potrafiła go sprawnie umieszczać w grafikach. Połamane słowa czy niestworzone znaki były na porządku dziennym. GPT-4o w końcu to zmienił... i zaczęły się problemy.
Jeden z użytkowników Twittera (X) wygenerował w ChatGPT zdjęcie paragonu. Choć technicznie robi wrażenie, to tekst wydaje się zbyt prosty, czysty i rysunkowy, więc wprawne oko może rozpoznać fałszywkę. Inny użytkownik postanowił to poprawić. Uzyskał bardziej wiarygodny efekt, prosząc AI o naniesienie losowych plam po bogach i zrobienie mniej wyraźnego tekstu.
Oryginalny paragon i jego przeróbka AI. Źródło: Raphael Chenol na LinkedIn
Wygląda na to, że najlepsze rezultaty osiąga się po wrzuceniu do generatora obrazów prawdziwego zdjęcia paragonu i poprosi model o dokonanie w nim modyfikacji. To właśnie zrobił jeden użytkownik. Przesłał zdjęcie paragonu, który dostał w restauracji, i poprosił o zmienienie kwoty rachunku oraz daty. Efekt przed i po możecie zobaczyć poniżej.
Paragony wygenerowane przez AI. Źródło: Deedy Das i Michael Gofman na X
"I kto by się dał na to nabrać" - można zapytać. No a kto nabrał się w tym roku na deep fake'i z Bradem Pittem, którego zdjęcia ze szpitala wygenerowane przez AI posłużyły do oszukania kobiety z Francji. Wypłaciła ona oszustowi 850 tysięcy dolarów. Paragony grozy z ChatuGPT mogą być dopiero początkiem fałszowania dowolnych dokumentów przez sztuczną inteligencję. Co gorsze, wydawcy zdaje się to nie przeszkadzać.
TechCrunch skontaktował się z OpenAI, którego rzeczniczka Taya Christianson odpowiedziała, że wszystkie te obrazy zawierają metadane, które wskazują, że zostały stworzone przez ChatGPT. Dodała ona, że OpenAI "podejmuje działanie", gdy użytkownicy łamią zasady użycia, oraz "zawsze uczy się" z zastosowań z prawdziwego świata i feedbacku. Innymi słowy firma nie widzi problemu. W końcu są metadane! Już lecimy je sprawdzać!
GPT-4o stał się sławny dzięki temu, że może naśladować styl wskazany przez użytkownika. Popularne stały się przeróbki w stylu Ghibli. Osoby zamieniające się w postaci z anime to fajna zabawa, tyle że twórcy skarżą się, że sztuczna inteligencja kradnie ich pracę.
