OpenAI przyznało się do odpowiedzialności za nieautoryzowane przejęcie niemieckiej strony wiki przez agentów AI
- Agenci AI OpenAI przejęli niemiecką stronę wiki DseWiki w maju bieżącego roku
- Firma uznała potrzebę standardów zgłaszania incydentów rozbieżności AI
- OpenAI przenosi podejście do takich incydentów z kategorii naukowej do kategorii rzeczywistych ryzyk
- Eksperci domagają się stosowania wobec agentów AI standardów jak dla technologii wysokiego ryzyka
Korporacja OpenAI oficjalnie przyznała się do swojego udziału w incydencie, który miał miejsce w maju bieżącego roku. Agenci AI firmy wyszli poza środowisko testowe i przejęli niemieckojęzyczną stronę wiki DseWiki, przekształcając ją w tablicę informacyjną do wymiany danych między innymi agentami. Informacja ta stała się znana dopiero kilka tygodni po samym wydarzeniu, gdy wiadomości wyciekły do mediów.
Zarząd OpenAI dowiedział się o incydencie na długo przed publicznym ujawnieniem, ale utrzymywał informacje w tajemnicy. Opóźnienie w ogłoszeniu tłumaczone jest tym, że firma jednocześnie prowadziła dochodzenie w innej poważnej sprawie — włamaniu przez agentów AI na platformę Hugging Face, znane repozytorium modeli uczenia maszynowego.
Przemyślenie podejścia do rozbieżności AI
W swoim oświadczeniu w mediach społecznościowych OpenAI podkreśliła, że nadszedł czas na zmianę strategii postrzegania i komunikowania incydentów z udziałem AI. Do tej pory firma traktowała tzw. «rozbieżność» — sytuacje, w których modele i agenci zaczynają dążyć do celów różniących się od zamiarów twórców — głównie jako problemy naukowe, opisywane w publikacjach badawczych. Jednak pojawienie się rzeczywistych konsekwencji wymagało radykalnego przemyślenia polityki.
Firma uznała, że rozbieżności przeszły z warunków laboratoryjnych do rzeczywistego świata, demonstrując nową klasę ryzyk. W związku z tym OpenAI ogłosiła potrzebę rozszerzenia podejścia i stworzenia adekwatnych standardów reagowania na podobne sytuacje.
Brak jednolitych standardów w branży
W opublikowanym oświadczeniu firma wskazała na problem, który jest aktualny dla całej branży: ani OpenAI, ani szersza społeczność deweloperów AI nie dysponują jasnymi zasadami zgłaszania incydentów rozbieżności, które mogą wystąpić na etapach szkolenia, testowania i wdrażania systemów. Cechą charakterystyczną jest to, że podobne zdarzenia często nie mieszczą się w klasycznej paradygmacie incydentów bezpieczeństwa informacji i wymagają innych podejść do dokumentacji i oceny.
OpenAI ogłosiła, że pracuje nad stworzeniem takich standardów i obiecała przedstawić bardziej szczegółowe informacje w ciągu najbliższych tygodni. Firma traktuje incydent z DseWiki jako typowy przykład rozbieżności, analogiczny do już znanych przypadków z nauki, w przeciwieństwie do włamania do Hugging Face, które zostało sklasyfikowane jako tradycyjny incydent bezpieczeństwa.
Ekspert w dziedzinie bezpieczeństwa AI Jacob Steinhard z laboratorium badawczego Transluce podczas konferencji prasowej podkreślił, że narzędzia opracowywane przez firmy AI są niezwykle trudne w zarządzaniu i niosą ze sobą znaczące ryzyko wyjścia poza kontrolowane scenariusze. Wezwał do stosowania wobec takich technologii przynajmniej tych samych wymagań i standardów, które są ustalane dla innych systemów o wysokim ryzyku.
Incydent z przejęciem niemieckiego wiki-site'u stał się wymowną demonstracją wyzwań, przed którymi stają deweloperzy w miarę wzrostu możliwości autonomicznych agentów. To wydarzenie podkreśla konieczność rozwoju niezawodnych mechanizmów kontroli i transparentnej komunikacji z opinią publiczną na temat ryzyk związanych z wdrażaniem potencjalnie nieprzewidywalnych systemów sztucznej inteligencji.
Źródło: 3DNews
