CEO Anthropic nazwał Chiny główną przeszkodą w spowolnieniu rozwoju AI

• CEO Anthropic uważa Chiny za główną przeszkodę w ograniczaniu AI
• On zaproponował globalny «limit prędkości», ale wątpi w jego realizację
• Chińskie startupy przyspieszają rozwój AI, konkurując z OpenAI i Anthropic
• OpenAI i Anthropic przygotowują się do IPO, ale terminy nie zostały jeszcze ogłoszone

Podczas wywiadu w programie Sunday Morning na CBS Dario Amodei, dyrektor generalny Anthropic, zauważył, że wysiłki na rzecz ustanowienia międzynarodowych ograniczeń w dziedzinie sztucznej inteligencji napotykają poważne wyzwanie geopolityczne. Jego zdaniem głównym problemem jest brak gotowości konkurujących krajów, przede wszystkim Chin, do przestrzegania takich ograniczeń w celu zachowania strategicznej przewagi.

Pomysł «limitu prędkości» i jego realizm

Amodei zaproponował stworzenie globalnej zgody na «limit prędkości» rozwoju technologii AI, co pozwoliłoby zmniejszyć ryzyko związane z potencjalnie katastrofalnym zastosowaniem najpotężniejszych modeli. Jednak wyraził sceptycyzm co do wykonalności tego pomysłu, wskazując na silne bodźce do technologicznego wyprzedzenia, które napędzają państwa i korporacje.

Pomimo wątpliwości, Amodei podkreślił, że próby osiągnięcia porozumienia są konieczne. Przypomniał o swoich wcześniejszych apelach do firm o spowolnienie ulepszania zaawansowanych modeli, co było reakcją na rosnące obawy w branży dotyczące potencjalnych zagrożeń.

Wewnętrzne nieporozumienia w Anthropic nasiliły się po odejściu pracownika Jake'a Coxona, który wyjaśnił swoją decyzję strachem przed tym, że firmy, w tym ich główny konkurent OpenAI, „grają w ruletkę z naszymi życiami”.

Tymczasem chińskie startupy aktywnie rozwijają swoje sieci neuronowe, tworząc konkurencję dla liderów rynku – OpenAI i Anthropic. Na szczycie BRICS w Indiach prezydent Chin Xi Jinping wezwał do utworzenia globalnego mechanizmu zarządzania AI opartego na konsensusie, a chińskie władze ogłosiły plany wsparcia otwartej społeczności deweloperów AI w ramach bloku, który łączy 11 krajów, w tym Rosję.

Anthropic i OpenAI przygotowują się do potencjalnych pierwszych publicznych ofert akcji, jednak oficjalnych dat jeszcze nie ma. Sam Altman, szef OpenAI, poinformował, że firma prawdopodobnie odłoży IPO do przyszłego roku, częściowo z powodu kwestii bezpieczeństwa. Pomimo wcześniejszych nieporozumień, Altman poparł inicjatywę Amodei, mówiąc o potrzebie „spowolnienia tempa rozwoju zaawansowanych systemów”.

Inicjatywę wsparli również znani przedstawiciele branży: Demis Hassabis, przewodniczący rady dyrektorów Google DeepMind, zauważył, że esej Amodei wskazuje w dobrym kierunku, chociaż szczegóły wymagają dalszej pracy; Elon Musk, szef Tesli i SpaceX, wyraził zgodę na propozycję spowolnienia rozwoju zaawansowanych systemów AI.

Sytuacja podkreśla rosnące napięcie między dążeniem do postępu technologicznego a koniecznością zapewnienia bezpieczeństwa i kontroli nad potężnymi narzędziami AI. Dopóki globalne porozumienie pozostaje nieosiągalne, dialog między krajami a firmami nadal jest kluczowym elementem zapobiegania potencjalnym zagrożeniom.

Źródło: 3DNews