Oryginał
„Z całą moją mocą mówię, nawet prawa fizyki mówią, że AI w większości jej danych jest zła”. Zafascynował mnie ten człowiek. Do tego stopnia, że polecieliśmy do USA tylko po to, by przeprowadzić ten jeden wywiad. Anthony Aguirre jest wybitnym fizykiem kosmologiem na University of California w Santa Cruz. Zahipnotyzował mnie tym, jak o nieskończoności mówił w słynnym dokumencie Netflix „W poszukiwaniu nieskończoności" (A Trip to Infinity, 2022). Zgłębiłem się jego prace. Okazało się, że stworzył jedną z największych, najbardziej wyrafinowanych platform przewidywania przyszłości o nazwie to Metaculus. To jedyne miejsce, gdzie tysiące analityków, hobbystów i ekspertów w tym noblistów stara się przewidzieć przyszłość, a algorytmy łączą ich głosy w jedną, często bardzo, bardzo, bardzo trafną prognozę. Jego platforma zyskała sławę dzięki kilku spektakularnym prognozom, w których społeczność (często określana jako „tłum”) była znacznie trafniejsza niż oficjalne instytucje czy eksperci głównego nurtu. Przewidziała inwazję z Rosji na Ukrainę dokładnością do dwóch tygodni. Wybuch rewolucji AI w 2022 zanim powstał Chat GPT. Wybuch pandemii zanim zareagowała WHO. Dziś w wywiadzie którym dzielę sie w komentarzu mówi, że silna AI jest najgorszym co może zgotować sobie ludzkość.
Poprosiłem, by Anthony przed kamerą wyjaśnił to, co ma na myśli jego platforma. Wziął do ręki kredę. Podszedł do tablicy. Powiedział „jak Ci to po prostu udowodnię”. Drugie prawo mówi, że w układzie zamkniętym entropia (nieład) zawsze rośnie. Utrzymanie porządku (życia, struktury, cywilizacji) wymaga ogromnych nakładów energii i "wyrzucania" nieładu na zewnątrz. „Macieju inteligentne systemy są z natury zaprojektowane do ekstremalnie wydajnego przetwarzania informacji i zasobów. Jeśli damy AI dowolny cel (np. "produkuj spinacze" lub "rozwiąż problem głodu"), AI dążąc do niego, będzie zużywać zasoby i energię w sposób optymalny dla celu, ale niszczycielski dla otoczenia. Z perspektywy fizyki, każda inteligentna optymalizacja struktury w jednym miejscu (kod AI, realizacja zadania) powoduje gigantyczny wzrost entropii wszędzie indziej. AI jest "zła", bo jej istnienie i rozwój są fizycznie sprzeczne z długofalowym utrzymaniem subtelnego porządku, jakim jest biologiczne życie człowieka”. Tak zaczął.
Po naszym wywiadzie nagraliśmy ten wykład. Całość, dostępna pod linkiem w komentarzu. Jest fascynującą podróżą. Anthony Aguirre stworzył też Future of Life Institute. Wraz z Maxem Tegmarkiem opracował nowatorskie podejście do mechaniki kwantowej. Sugeruje ono, że w nieskończonym wszechświecie (stworzonym przez wieczną inflację) wszystkie możliwe wyniki pomiarów kwantowych faktycznie się zdarzają w różnych regionach przestrzeni. Jest autorem cenionej książki "Kosmologiczne koany" (Cosmological Koans), w której używa formy krótkich, paradoksalnych opowieści (inspirowanych zen), aby wyjaśnić najtrudniejsze koncepcje współczesnej fizyki. Dziś dzieli się tym wszystkim z Wami. Wczoraj film trafił na nasz kanał w USA. Obejrzało go już 60 000 Amerykanów. Dziś specjalną, dłuższą wersję tego wywiadu udostępniam w Polsce. Obejrzyjcie go. Zmienia myślenie.
Podobne