Deepfake, czyli wklejanie czyjejś twarzy i podkładanie głosu przez AI do innego nagrania, może być nie tylko ciekawą rozrywką, ale też zagrożeniem (ostatnio szczególnie dla pracowników branży filmowej). W ten sposób łatwo wprowadzać ludzi w błąd, szczególnie gdy deepfake przedstawia osobę publiczną, taką jak polityk. Czy da się temu zapobiec?
Firmy z sektora big tech od lat pracują nad wykrywaniem fałszywek, a ostatnio Microsoft ogłosił, że będzie na tym polu pomagał kandydatom w wyborach, zaczynając od tegorocznych wyborów prezydenckich w USA. Jak wynika z raportu "Protecting Election 2024 from Foreign Malign Influence", można się spodziewać wielu prób zakłóceń tych wyborów przez atakujących na zlecenie państw (nation states). Mogą oni łączyć tradycyjne techniki z AI i innymi nowymi technologiami, aby zagrozić integralności systemów wyborczych.
Microsoft ogłosił swoje zobowiązania pod szyldem Election Protection Commitments, aby chronić głosujących, kandydatów, kampanie i władze wyborcze na całym świecie. Obejmuje to 5 inicjatyw, usług i narzędzi:
- Content Credentials as a Service: to nowe narzędzie pozwalające użytkownikom podpisywać cyfrowo i uwierzytelniać multimedia za pomocą cyfrowego znaku wodnego Coalition for Content Provenance and Authenticity’s (C2PA). Jest to zestaw metadanych, które kodują szczegóły pochodzenia zawartości za pomocą kryptografii. Użytkownicy mogą dołączać Content Credentials do obrazów i wideo, aby pokazywały, jak, kiedy i przez kogo ta zawartość została utworzona i edytowana, wliczając w to wygenerowanie przez sztuczną inteligencję. Te poświadczenia wędrują wraz z zawartością i tworzą permanentny ślad oraz kontekst, gdziekolwiek zostanie opublikowana.
- Campaign Success Team: nowo uformowany zespół w organizacji Microsoft Philanthropies’ Tech for Social Impact. Zespół ten będzie doradzał i wspierał kampanie w nawigacji przez świat AI, zwalczał rozprzestrzenianie cybernetycznych kampanii wpływu (cyber influence campaigns) i chronił autentyczność ich własnych treści i obrazów. Campaign Success Team będzie też promował istniejące programy cyberochrony, takie jak M365 for Campaigns i AccountGuard.
- Election Communications Hub: centrum to będzie wspierać demokratyczne rządy na całym świecie w budowaniu bezpiecznych i odpornych procesów wyborczych.
- Ochrona przed deepfake'ami: Microsoft będzie wspierał legislacyjne i prawne zmiany, które zwiększą ochronę kampanii i procesów wyborczych przed deepfake'ami i innymi szkodliwymi zastosowaniami nowych technologii. Firma zaczęła od wyrażenia poparcia dla ustawy Protect Elections from Deceptive AI Act wprowadzonej w USA. Zabrania ona wykorzystywania sztucznej inteligencji do generowania istotnie zwodniczych treści, fałszywie przedstawiających kandydatów federalnych w reklamach politycznych, mających na celu wywarcie wpływu na wybory federalne. Wyjątki stanowią parodia, satyra i treści redakcji generowane przez AI.
- Wiarygodne informacje na temat wyborów w Bing: użytkownicy Bing mogą liczyć na rzetelne treści dotyczące wyborów. Bing połączy siły z National Association of State Election Directors (NASED), wiodącą hiszpańską agencją informacyjną EFE oraz z Reporterami bez Granic (Reporters Without Borders). Partnerzy ci korzystają z technologii NewsGuard i ClaimReview. Microsoft będzie też publikował regularne raporty o zagranicznych kampaniach wpływu, tworzone przez zespół MTAC.
Dowiedz się więcej z naszych wcześniejszych artykułów:
- Nowe narzędzie Microsoftu do wykrywania deepfake'ów
- Deepfake jako przyszłość kina? Artysta, który przerobił Luke'a Skywalkera, zatrudniony w Lucasfilm
- Koniec fake newsów? Microsoft, Adobe, BBC i inni chcą położyć kres dezinformacji
- Wybory w USA chronione nowym programem Microsoftu
- Bezpieczne wybory z oprogramowaniem Microsoftu nie tylko w USA
- Microsoft będzie bronił demokracji w Polsce. AccountGuard w 31 nowych krajach
Źródło: https://blogs.microsoft.com/on-the-issues/2023/11/07/microsoft-elections-2024-ai-voting-mtac/
