W ostatnich miesiącach sztuczna inteligencja poczyniła duże postępy i trafiła do mediów głównego nurtu — przede wszystkim za sprawą ChatGPT i nowego Bing. AI generuje teksty i obrazy, tworzy oprogramowanie i zastępuje tradycyjne wyszukiwarki. Mimo imponujących umiejętności ciągle brakuje jej odpowiednich zabezpieczeń. Przy odpowiednio spreparowanych poleceniach łatwo sprawić, by AI zdradziła własne zasady.
Nie tylko jednak zwykła naiwność jest bolączką sztucznej inteligencji. Przy tak popularnych i skomplikowanych aplikacjach naturalnie można obawiać się ich zaatakowania exploitami i wykorzystania w zły sposób. Zwiększanie bezpieczeństwa sztucznej inteligencji od dawna jest praktykowane przez Microsoft. Teraz, po ogłoszeniu programu Bug Bounty przez OpenAI kilka tygodni temu, Microsoft rozszerzył swój własny program, dodając do niego Bing Chat.
Bug Bounty Program kierowany do badaczy zabezpieczeń i etycznych hakerów, którzy mogą wyszukiwać luki w zabezpieczeniach programów komputerowych lub witryn internetowych w zamian za nagrody. Kiedy badacz znajdzie podatność, musi ją zgłosić zgodnie ze ściśle ustaloną procedurą, aby otrzymać nagrodę. Microsoft wielokrotnie aktualizował swoje programy Bug Bounty, starając się tworzyć korzystne dla wszystkich stron partnerstwo z badaczami zabezpieczeń i hakerami. W ubiegłym roku gigant wypłacił w tych programach nagrody w wysokości 13,7 mln USD.
Podobnie jak w przypadku innych rodzajów oprogramowania, zgłaszający musi przesłać szczegółowy raport na stronie Microsoft Security Response Center (MSRC) Researcher Portal i wybrać Bing z listy produktów. Zgłoszenia muszą podawać rodzaj problemu, wersję zawierającą błąd, wszelkie zainstalowane aktualizacje, specjalne konfiguracje wymagane do odtworzenia błędu, instrukcje krok po kroku dotyczące odtworzenia problemu przy pierwszej instalacji, Proof of Concept i wpływ problemu, w tym sposób, w jaki atakujący może wykorzystać problem.
Po otrzymaniu zgłoszenia Microsoft określa, czy się kwalifikuje. Jeśli tak, inżynierowie je przejrzą. W zależności od wagi odkrycia firma Microsoft wypłaca następnie różne kwoty.
