Pracownik Google DeepMind odchodzi, obawiając się przyspieszonego rozwoju AI

• Robert O'Callahan odszedł z Google DeepMind z powodu szybkiego rozwoju AI
• Uważa, że rozwój AI jest zbyt szybki i nieodpowiedzialny
• Utrata dodaje do listy specjalistów, którzy obawiają się ryzyk związanych z AI
• O'Callahan podkreśla rzeczywiste, ale nieokreślone ryzyko ASI

Robert O'Callahan, inżynier w dziale Google DeepMind, ogłosił swoje odejście z firmy w poście w sieci społecznościowej X. Według niego zespół zajmował się opracowaniem specjalistycznych chipów, które pozwalają przyspieszyć działanie modeli AI i obniżyć ich koszty, jednak tempo rozwoju technologii, jego zdaniem, przekracza rozsądne granice.

Na osobistym blogu O'Callahan opublikował list wysłany do kolegów w piątek, w którym podkreślił, że nie może „zamknąć oczu” na potencjalne konsekwencje swojej pracy. Wskazał, że jego chrześcijańskie przekonania nie pozwalają mu wspierać projektów, które mogą zaszkodzić ludziom, i nazwał takie podejście „z samej istoty nieodpowiedzialnym”.

Autor listu zauważył, że kocha swoich kolegów i ceni możliwość rozwiązywania interesujących zadań, jednak uważa, że cel przyspieszenia i obniżenia kosztów AI może być szkodliwy dla społeczeństwa. Jego zdaniem rozwój AI postępuje „zbyt szybko”, a kierunek, w którym zmierza przemysł, budzi poważne wątpliwości.

Business Insider nie był w stanie ustalić, jak długo O'Callahan pracował w Google, a przedstawiciele firmy odmówili komentarza. Sam pracownik, według jego słów, mieszka w Nowej Zelandii i zaproponował dziennikarzom zapoznanie się z pełnym tekstem bloga w celu uzyskania dodatkowych szczegółów.

Tendencja odejść z branży

Odejście O'Callahana uzupełnia listę specjalistów, którzy opuścili duże firmy AI z obawami o bezpieczeństwo technologii. Na początku tego miesiąca z Anthropic odszedł Jacob Coxon, powołując się na niemożność kontrolowania przyszłych systemów AI. W zeszłym miesiącu były badacz DeepMind Bilal Chughtai również opuścił firmę, obawiając się, że ludzkości zabraknie czasu, aby zapobiec potencjalnym szkodom ze strony AI.

W przeciwieństwie do niektórych kolegów, O'Callahan nie twierdzi, że katastroficzny scenariusz z sztuczną superinteligencją (ASI) jest nieunikniony. Uważa ryzyko za realne, ale niepewne, i podkreśla moralny obowiązek branży, aby je zminimalizować. Jego zdaniem prawdopodobieństwo całkowitej katastrofy nie osiąga 100%, jednak dążenie do stworzenia ASI w najbliższej przyszłości już uważa się za nieodpowiedzialne.

O'Callahan również odrzucił hipotezę, że ostrzeżenia o zagrożeniach związanych z AI są podsycane w celu zwiększenia wartości akcji lub eliminacji konkurencji poprzez regulacje. Wyraził przekonanie o szczerości tych, którzy poruszają kwestie bezpieczeństwa, i wezwał do poważniejszej publicznej dyskusji na temat przyszłości sztucznej inteligencji.

Źródło: 3DNews