„The New York Times” donosi, że na początku 2023 roku haker uzyskał dostęp do wewnętrznych systemów komunikacji OpenAI i wykradł informacje o jego technologiach sztucznej inteligencji. Firma przekazała informację o incydencie pracownikom, ale nie powiadomiła opinii publicznej ani organów ścigania.
Przestępcy udało się wykraść informacje z dyskusji na forum online dla pracowników OpenAI, na którym rozmawiali o najnowszych technologiach. Na całe szczęście dla firmy hakerowi nie udało się włamać do systemów, w których modele GPT są przechowywane i trenowane. Dwa źródła, które zgłosiły się do „The New York Times”, powiedziały, że niektórzy pracownicy OpenAI wyrazili obawy, iż ataki tego typu mogły być przeprowadzone z Chin, a ich celem była kradzież technologii AI. Mogłoby to nawet zagrozić bezpieczeństwu narodowemu USA.
Dowiedziawszy się o atakach, niektórzy pracownicy zaczęli pytać, jak poważnie OpenAI podchodzi do bezpieczeństwa, a także wyrażać obawy o ryzyko, jakie niesie ze sobą sztuczna inteligencja. Po tym incydencie były techniczny Program Manager w OpenAI, Leopold Aschenbrenner, napisał notatkę do zarządu firmy, w której utrzymuje, że ta nie robi wystarczająco dużo, aby powstrzymać kradzież tajemnic przez zagranicznych adwersarzy. Co ciekawe, Aschenbrenner został zwolniony przez OpenAI za wyciek informacji poza firmę. Według niego to zwolnienie było motywowane politycznie.
Według prominentnych postaci na polu AI, takich jak Daniela Amodei, współzałożycielka Anthropic, ewentualna kradzież designów obecnej generatywnej sztucznej inteligencji nie stanowi zagrożenia dla bezpieczeństwa narodowego. Jeśli jednak ta technologia stanie się potężniejsza, zagrożenie będzie już bardziej realne.
Źródło: https://www.nytimes.com/2024/07/04/technology/openai-hack.html
341f31d.png)