AI nie prowadzi do nieuniknionej zagłady. Postulat wstrzymania rozwoju jest błędny.

Artykuł na portalu LessWrong autorstwa SE Gygesa podważa tezę o nieuniknionym końcu świata spowodowanym przez zaawansowaną sztuczną inteligencję. Autor argumentuje, że AI to dziedzina nauki podobna do fizyki czy biologii, wymagająca standardowych metod ograniczania ryzyka, a nie całkowitego wstrzymania prac.

Krytyka teorii o nieuniknionej zagładzie AI

Autor tekstu na LessWrong, SE Gyges, odrzuca tezę, że zaawansowane AI niemal na pewno doprowadzi do wyginięcia ludzkości. Zamiast tego traktuje AI jako standardową dziedzinę nauki, porównywalną do fizyki czy biologii – niosącą podobne ryzyka, lecz w większej skali.

Argumentuje on, że wiara w katastroficzny scenariusz wynika bardziej z chwytliwych memów niż z solidnych dowodów. Esej autorstwa 1a3orna podkreśla, że mnogość argumentów nie czyni ich przekonującymi, zwłaszcza gdy krajobraz technologiczny dynamicznie się zmienia, a zwolennicy teorii zagłady nie aktualizują swoich poglądów.

Takie podejście zachęca do skupienia się na konkretnych działaniach naprawczych zamiast ulegania panice.

Porównanie AI do innych dziedzin nauki

Gyges podkreśla, że AI nie różni się jakościowo od innych ryzykownych nauk – brak fizycznych mechanizmów kontroli (jak w przypadku uranu) komplikuje sprawę, ale nie czyni jej unikalną. Ograniczanie ryzyka powinno opierać się na metodach stosowanych w inżynierii, z odpowiednim dostosowaniem do specyfiki tej branży.

Blog Berena Millidge’a wskazuje, że kwestia alignmentu dla modeli LLM jest możliwa do rozwiązania w ciągu 10 lat dzięki standardowemu postępowi badawczemu. Metody takie jak kontrola sprzężenia zwrotnego, znana z teorii sterowania, mogą zapewnić stabilność procesów podczas uczenia maszynowego.

Wartości ludzkie są przyswajane naturalnie z danych, co ułatwia alignment w porównaniu do rozwijania czystych zdolności optymalizacyjnych.

Dlaczego pauza w rozwoju AI jest kontrproduktywna

Nawoływanie do całkowitego zakazu lub moratorium na rozwój AI wprowadza informacyjny szum i utrudnia skuteczne działania, takie jak badania nad interpretowalnością czy ustalanie kryteriów wydawniczych. Autor zaleca traktowanie projektów AI jak przedsięwzięć inżynieryjnych obarczonych ryzykiem.

Dane syntetyczne umożliwiają wczesne wykrywanie dezinformacji, a empatia może wynikać z samej architektury modeli nagród. Pauza ignoruje te możliwości i spowalnia postęp.

Artykuł stanowi zestawienie literatury krytykującej wizje zagłady, promując zrównoważone podejście do kwestii bezpieczeństwa (safety).