CEO Anthropic nazwał Chiny główną przeszkodą w spowolnieniu rozwoju AI
- Anthropic CEO считает Китай главным препятствием для ограничения ИИ
- Он предложил глобальный «скоростной лимит», но сомневается в его реализации
- Китайские стартапы ускоряют развитие ИИ, конкурируя с OpenAI и Anthropic
- OpenAI и Anthropic готовятся к IPO, но сроки пока не объявлены
Во время интервью в программе Sunday Morning на CBS Дарио Амодеи, генеральный директор Anthropic, отметил, что усилия по установлению международных ограничений в области искусственного интеллекта сталкиваются с серьёзным геополитическим вызовом. По его мнению, главной проблемой является отсутствие готовности конкурирующих стран, прежде всего Китая, соблюдать такие ограничения ради сохранения стратегического преимущества.
Идея «скоростного лимита» и её реалистичность
Амодеи предложил создать глобальное согласие о «скоростном лимите» развития ИИ‑технологий, позволяющее снизить риски, связанные с потенциально катастрофическим применением самых мощных моделей. Однако он выразил скептицизм относительно осуществимости этой идеи, указывая на сильные стимулы к технологическому опережению, которые движут государствами и корпорациями.
Несмотря на сомнения, Амодеи подчеркнул, что попытки договориться необходимы. Он напомнил о своих прежних призывах к компаниям замедлить улучшение передовых моделей, что стало реакцией на растущее беспокойство внутри отрасли о возможных угрозах.
Wewnętrzne nieporozumienia w Anthropic nasiliły się po odejściu pracownika Jake'a Coxona, który wyjaśnił swoją decyzję strachem przed tym, że firmy, w tym ich główny konkurent OpenAI, „grają w ruletkę z naszymi życiami”.
Tymczasem chińskie startupy aktywnie rozwijają swoje sieci neuronowe, tworząc konkurencję dla liderów rynku – OpenAI i Anthropic. Na szczycie BRICS w Indiach prezydent Chin Xi Jinping wezwał do utworzenia globalnego mechanizmu zarządzania AI opartego na konsensusie, a chińskie władze ogłosiły plany wsparcia otwartej społeczności deweloperów AI w ramach bloku, który łączy 11 krajów, w tym Rosję.
Anthropic i OpenAI przygotowują się do potencjalnych pierwszych publicznych ofert akcji, jednak oficjalnych dat jeszcze nie ma. Sam Altman, szef OpenAI, poinformował, że firma prawdopodobnie odłoży IPO do przyszłego roku, częściowo z powodu kwestii bezpieczeństwa. Pomimo wcześniejszych nieporozumień, Altman poparł inicjatywę Amodei, mówiąc o potrzebie „spowolnienia tempa rozwoju zaawansowanych systemów”.
Inicjatywę wsparli również znani przedstawiciele branży: Demis Hassabis, przewodniczący rady dyrektorów Google DeepMind, zauważył, że esej Amodei wskazuje w dobrym kierunku, chociaż szczegóły wymagają dalszej pracy; Elon Musk, szef Tesli i SpaceX, wyraził zgodę na propozycję spowolnienia rozwoju zaawansowanych systemów AI.
Sytuacja podkreśla rosnące napięcie między dążeniem do postępu technologicznego a koniecznością zapewnienia bezpieczeństwa i kontroli nad potężnymi narzędziami AI. Dopóki globalne porozumienie pozostaje nieosiągalne, dialog między krajami a firmami nadal jest kluczowym elementem zapobiegania potencjalnym zagrożeniom.
Źródło: 3DNews
