Pracownik Google DeepMind odchodzi, obawiając się przyspieszonego rozwoju AI

• » Pracownik Google DeepMind odchodzi, obawiając się przyspieszonego rozwoju AI
• Robert O'Callahan odszedł z Google DeepMind z powodu szybkiego tempa AI
• Uważa, że rozwój AI jest zbyt szybki i nieodpowiedzialny
• Odejście dodaje do listy specjalistów, którzy obawiają się ryzyk związanych z AI

O'Callahan podkreśla realne, ale nieokreślone ryzyko ASI

Robert O'Callahan, inżynier w Google DeepMind, ogłosił swoje odejście z firmy w poście w mediach społecznościowych X. Według niego, zespół pracował nad opracowaniem specjalistycznych chipów, które miały przyspieszyć działanie modeli AI i obniżyć ich koszty, jednak tempo rozwoju technologii, jego zdaniem, przekracza rozsądne granice.

Na swoim osobistym blogu O'Callahan opublikował list wysłany do kolegów w piątek, w którym podkreślił, że nie może "zamknąć oczu" na potencjalne konsekwencje swojej pracy. Zaznaczył, że jego chrześcijańskie przekonania nie pozwalają mu wspierać projektów, które mogą zaszkodzić ludziom, i nazwał takie podejście "z samej swojej natury nieodpowiedzialnym".

Autor listu zauważył, że kocha swoich kolegów i ceni sobie możliwość rozwiązywania interesujących problemów, jednak uważa, że cel przyspieszenia i obniżenia kosztów AI może okazać się szkodliwy dla społeczeństwa. Jego zdaniem, rozwój AI postępuje "zbyt szybko", a kierunek, w którym zmierza branża, budzi poważne wątpliwości.

Tendencja odejść z branży

Odejście O'Callahana uzupełnia listę specjalistów, którzy opuścili duże firmy AI z powodu obaw o bezpieczeństwo technologii. Na początku tego miesiąca z Anthropic odszedł Jacob Coxon, powołując się na niemożność kontrolowania przyszłych systemów AI. W zeszłym miesiącu były badacz DeepMind Bilal Chughtai również opuścił firmę, obawiając się, że ludzkości zabraknie czasu, aby zapobiec potencjalnym szkodom związanym z AI.

W przeciwieństwie do niektórych kolegów, O'Callahan nie twierdzi, że katastroficzny scenariusz z sztuczną superinteligencją (ASI) jest nieunikniony. Uważa ryzyko za realne, ale niepewne, i podkreśla moralny obowiązek branży, aby je zminimalizować. Jego zdaniem prawdopodobieństwo całkowitej katastrofy nie osiąga 100%, jednak dążenie do stworzenia ASI w najbliższej przyszłości już teraz uznawane jest za nieodpowiedzialne.

O'Callahan również odrzucił hipotezę, że ostrzeżenia o niebezpieczeństwach AI są podsycane w celu zwiększenia wartości akcji lub eliminacji konkurentów poprzez regulacje. Wyraził pewność co do szczerości tych, którzy poruszają kwestie bezpieczeństwa, i wezwał do poważniejszej publicznej dyskusji na temat przyszłości sztucznej inteligencji.

Źródło: 3DNews