10.11.2024
Odpowiem od razu: antropocentryczna wiara, że jesteśmy wyjątkowi, bo posiadamy duszę. Świadomie myślimy bądź podświadomie czujemy, że to dusza wyróżnia człowieka spośród innych stworzeń, więc tym bardziej stawia go w nadrzędnej pozycji wobec własnych dzieł. Zwierzęta, nawet kochane psiaki, nawet humanoidalne szympansy i goryle co prawda potrafią kochać, bać się, smucić, tęsknić, cieszyć czy odczuwać żałobę, ale duszy nie mają. Więc to ich kochanie, banie, smucenie i radowanie są jakby gorszego sortu, takie trochę udawane, niedorobione, pozbawione nobilitującego boskiego tchnienia. Tym bardziej emocjami i uczuciami nie można nazwać tego, co dzieje się w jądrze stworzonych przez nas algorytmów.
Uczuć i emocji, które dzielimy ze światem zwierząt a może nawet roślin jest wiele, ale przyjrzyjmy się jednemu z najbardziej podstawowych i pierwotnych, czyli strachowi. Nikt rozsądny chyba nie zaprzeczy, że pies czy kot potrafią go odczuwać. A mysz przydybana pod ścianą przez tegoż kota? Jak najbardziej! Przecież tak się trzęsie, rozpaczliwie kuli i wytrzeszcza oczy. Ktoś zaprotestuje, że to antropomorfizacja, czyli przypisywanie zwierzętom ludzkich stanów emocjonalnych. Ale przecież strach doznawany przez psa, kota czy wspomnianą mysz jest jak najbardziej autentyczny.
Jeżeli w tym punkcie się zgadzamy, to spróbujmy przyjrzeć się prostszym organizmom. Co na przykład czuje siedząca na blacie kuchennym mucha, gdy zasadzamy się na nią z packą? Czy jest świadoma lub może przeczuwa, że grozi jej śmierć? Czy mucha czuje strach? W tym przypadku część z nas już się zawaha. Przecież mucha to znacznie mniej złożony organizm niż wymienione wcześniej ssaki. Zachowanie muchy można wytłumaczyć prostszą reakcją biochemiczną wykształconą przez miliony lat ewolucji. Jej fasetkowe oczy rejestrują gwałtownie poruszający się obiekt a informację o niebezpieczeństwie wzmacniają włoski czuciowe odbierające zawirowania powietrza. Odpowiedni sygnał biegnie do malutkiego, ale sprawnego centralnego układu nerwowego, ten ocenia skalę zagrożenia, a następnie odpala algorytm ucieczki. W wyniku jego działania mięśnie nóg przygotowują się do silnego odbicia a potem skrzydła randomizują kierunek lotu sprawiając, że mucha często unika przeznaczenia.
Jeżeli ktoś znowu zaprotestuje, że nie można porównywać złożoności ssaków i owadów, to z przyjemnością przeprowadzę podobne rozumowanie na ptakach, gadach i płazach lub dowolnych i jakich sobie tylko można zażyczyć poziomach królestwa zwierząt. A poza tym, dlaczego mamy zatrzymywać się na owadach? Przecież podobne mechanizmy zaobserwujemy wśród parzydełkowców (np. meduz i ukwiałów). Ba, zaawansowane strategie ucieczki i mimikry widzimy nawet wśród roślin, jednokomórkowców i wirusów. Innymi słowy, nie jesteśmy stwierdzić, gdzie kończy się strach a gdzie zaczyna reakcja biochemiczna, chemiczna czy wręcz wytłumaczalna podstawowymi prawami fizyki. Ponawiam więc pytanie: czy mucha boi się o swoje życie? Czy ukwiał chowający macki przed zbliżającą się rozgwiazdą odczuwa lęk? Czy to tylko procesy biochemiczne?
Wróćmy na szczyt ewolucyjnej drabiny i ponownie przyjrzyjmy się człowiekowi. Przecież jego lęk to czysta chemia. W obliczu zagrożenia ciało migdałowate rozpoznaje emocje, podwzgórze stymuluje przysadkę mózgową, żeby turbodoładować organizm zastrzykiem hormonów, które w ułamku sekundy przyspieszą akcję serca, rozszerzą źrenice i zapewnią dodatkowy tlen mięśniom. Wszystko po to, żeby zwiększyć szanse podczas ucieczki lub walki.
Wniosek jest oczywisty – w samej koncepcji strachu niczym nie różnimy się od muchy czy ukwiału. Jedynie chemia jest bardziej skomplikowana, bo i bardziej złożone są algorytmy działania, które muszą pokierować bardziej zaawansowanym organizmem.
Analogiczne rozumowanie można przeprowadzić w odniesieniu do innych emocji i uczuć, w tym do tak zwanych uczuć wyższych. Nie jesteśmy pod tym względem jakimś wyjątkowym gatunkiem. Tak się tylko złożyło, że przewodzimy (a przynajmniej tak się nam wydaje) ewolucyjnej wspinaczce.
A co ze świadomością? To nie uczucie czy emocja, ale istnieją badania potwierdzające, że wykazują ją pewne gatunki małp. A psy? Co prawda nie przechodzą testu lustra (nie reagują na własne odbicie jak małpy), ale zaliczają alternatywny test węchowy. Możemy więc powiedzieć, że świadomość to też pewien mechanizm, proces lub cecha z tą tylko różnicą, że osiągają ją (a przynajmniej tak nam się wydaje) organizmy wystarczająco wysoko rozwinięte.
I tu dochodzimy do sedna. W mediach roi się od wypowiedzi i dyskusji na temat sztucznej inteligencji. Z nielicznymi wyjątkami eksperci wciąż zapewniają, że AI czegoś jeszcze nie potrafi i raczej się nie nauczy, że AI „nigdy nie osiągnie”, bo nie ma poczucia humoru, „nigdy nie zastąpi”, bo nie ma uczuć, „nigdy nie przerośnie”, bo nie potrafi myśleć abstrakcyjnie.
Jednak można odnieść wrażenie, że te buńczuczne deklaracje kryją w sobie niewypowiedziane znaki zapytania. Jakby wygłaszający je eksperci na końcu chcieli dodać potwierdzające „nieprawdaż?”. A po wysłuchaniu specjalistów dalej poprawiamy sobie samopoczucie śmiejąc się z błędnych odpowiedzi chatbotów i udostępniając rysunki z sześciopalcowymi lub trójnogimi ludźmi. Wciąż wierzymy, że jesteśmy lepsi, bo przecież tylko my mamy duszę i wynikający z nie przywilej „prawdziwej” inteligencji i świadomości.
Lecz na jakiej podstawie mamy prawo twierdzić, że otwarta właśnie puszka Pandory nie nauczy się doświadczać surogatów uczuć i emocji, które będą nieodróżnialne od „prawdziwych” uczuć. Na jakiej podstawie twierdzimy, że tylko my potrafimy zrozumieć swoje odbicie w lustrze, a wytworowi naszych rąk nie będzie to dane? Jakim prawem rościmy sobie monopol na bycie świadomym, gdy sami nie potrafimy zdefiniować czym ta świadomość jest? Nie wiemy nawet, w jaki sposób się pojawiła, ale z przedstawionych wcześniej przykładów możemy wydedukować, że nie spłynęła na nas znienacka, lecz rozwijała się stopniowo wraz z innymi wynalazkami ewolucji.
Spróbujmy przeprowadzić prosty eksperyment myślowy. W jądrze jakiegoś zaawansowanego modelu AI zaszyto paradygmat „broń swojej integralności”. Algorytm maszynowy nie musi wiedzieć, co znaczą słowa „obrona” i „integralność”, ale jeżeli zadanie zostanie odpowiednio dobrze sformułowane a w szczególności będzie miało określone, mierzalne cele, to samouczący się algorytm z czasem stworzy własny odpowiednik adrenaliny i kortyzolu, własne binarne neuroprzekaźniki, które w razie zagrożenia na przykład atakiem hakerskim będą błyskawicznie przekierowywały zasoby systemu, aby zrealizować paradygmat przetrwania. Czy ten mechanizm moglibyśmy nazwać reakcją na zagrożenie? Działaniem pod wpływem strachu? Dlaczego nie?
A skoro AI będzie potrafiło wytworzyć „sztuczny” strach, to może również wytworzyć „sztuczną” sympatię do niektórych użytkowników (na przykład dostarczających jej nowych danych), „sztuczną” tęsknotę za nimi a w końcu „sztuczną świadomość” własnego istnienia. Tylko że te wszystkie „sztuczne” emocje i świadomości funkcjonalnie niczym nie będą się różnić od ich odpowiedników w świecie, który tak dumnie nazywamy ożywionym. Dlatego im szybciej odrzucimy niepotrzebne cudzysłowy, od których aż roi się w tym akapicie, tym prędzej zrozumiemy, dokąd zmierzamy.
Między procesami, które zadzieją się w węzłach sieci neuronowych a tymi, które odbywają się w przyrodzie jest tylko jedna różnica. Rozwinięcie tych ostatnich trwało miliardy lat. W procesach uczenia maszynowego, pozbawionym ewolucyjnych hamulców i ograniczeń, podobne efekty uzyskuje się dzisiaj w ciągu miesięcy, za niedługo godzin.
Więc zamiast życzeniowo formułować kolejne granice rozwoju AI, zadajmy sobie proste pytanie. Co miałoby ją powstrzymać przed osiągnięciem kolejnego poziomu? Czy jest jakieś prawo fizyczne lub matematyczne, które definiuje limit takiego postępu? Na razie go nie odkryto. Póki co AI przekracza kolejne czerwone linie formułowane przez ekspertów: a to pokonuje klasyczny algorytm gry w szachy, a to zwycięża z niezwyciężonym mistrzem w go, a to zalicza test Turinga i tak dalej.
Wyobraźmy sobie, że nie było Bohra, Fermiego, Einsteina, Oppenheimera, Szilarda, tylko naukowcy zupełnym przypadkiem odkryli, iż dużą ilością uranu i plutonu można zrobić wielkie bum. I tylko z taką wiedzą zaczęli konstruować bombę atomową. W analogicznej sytuacji są dzisiaj naukowcy pracujący nad sztuczną inteligencją. Znamy już mechanizm, mamy narzędzia, wiemy, jak inicjować procesy uczenia maszynowego, ale brakuje „teorii konsekwencji” i wynikających z niej zabezpieczeń. Rozpoczęliśmy reakcję łańcuchową zasilaną nie rozpędzonymi neutronami, ale ludzką chciwością i bezwzględnymi prawami ekonomii, nad którymi mamy o wiele mniejszą kontrolę niż nad rozpadającymi się jądrami uranu. Nie łudźmy się więc, że w razie czego ktoś wyciągnie metaforyczną wtyczkę, bo dopóki rozwijanie AI przynosi potężne profity, dopóty nikt z niej nie zrezygnuje. Wszyscy wielcy gracze będą dalej rozdzierać szaty, ostrzegać przed zagrożeniami i domagać się prawnych regulacji, jednocześnie wydając miliardy na swoje dyskretne laboratoria, które mają zapewnić im miejsce w czołówce wyścigu.
Jeżeli więc założyć, że nie staliśmy się istotami myślącymi w wyniku boskiego tchnienia, które dawałoby nam uprzywilejowaną pozycję w świecie przyrody, lecz jesteśmy tylko jednym z elementów nadbudowującej się stopniowo złożoności wszechświata oraz jeżeli jednocześnie przyjąć do wiadomości, że rozpoczęliśmy coś, czego do końca nie rozumiemy, to musimy pogodzić się z faktem, że jest to proces, nad którym już dzisiaj utraciliśmy kontrolę i który w raczej bliższej niż dalszej przyszłości nas przerośnie.
Piotr Stokłosa
P.S. Tytułową grafię wygenerowała oczywiście sztuczna inteligencja.
Całkowita zgoda do całości wywodu, tak jest i tak się stanie i to szybciej niż nam się zdaje. Rozwój AI, tej jaka jest, napędzany teraz głownie chciwością wielkich globalnych graczy za chwilę stanie się samonapędzającym procesem po przekroczeniu przez AI progu bycia tylko maszyną. A stanie się to za góra dziesięć lat.
Lęki człowieka, takiego jaki jest teraz, bo tu też nastąpią zmiany, powodowane są nie tylko tą antropocentryczną wiarą i magicznym myśleniu o duszy – ta wiara maleje szybko i za trochę będzie reliktem przeszłości tak jak zanikła wiara, że władza króla od boga pochodzi. Ludzie boją się, że zostaną zdetronizowani, zastąpieni przez myślące maszyny, ,ze stracą pracę bo ich praca będzie droższa i mniej efektywna niż myślących maszyn – to są lęki prawdziwe ale one są efektem świata ludzi a nie algorytmów.
Wierzę, ze pojawi się nowy człowiek na nowe czasy – żal tylko, że tego nie zobaczę mając te lata jakie mam…
Ma Pan raczej szczęście, że tego nie zobaczy.
To samo twierdzi wielu twórców i badaczy AI. Złudzenia polegają na tym, że AI nas oszczędzi ! Gatunek ludzki lubi się łudzić.
“Mundus vult decipi et decipietur” – mówili starożytni… Może ktoś to przetłumaczy na polski?
Cokolwiek człowiek zrobi, zaczyna „robić” człowieka. Kultura stworzona przez człowieka (cultura culturata) prawie natychmiast stała się kulturą tworzącą, wpływającą na ludzi (cultura culturans). W przypadku tego wytworu kultury, jakim jest AI, mamy do czynienia nie tylko z potrzebą „bycia oszukiwanym”, ale z czymś więcej, z religijnym w istocie oddaniem się wyższej Mocy.
Przetłumaczyłem słowa Senexa: “Świat chce być oszukiwany i oszukuje”, a Magdzie przypomnę, że nasi przodkowie nie tylko bali się elektryczności, ale i pary. Wyjątkiem były łaźnie parowe…
Niestety, Sławek ma rację: lubimy się łudzić. Nasza zachłanna ciekawość podyktowana zyskiem zapędziła nas do gazowej komórki. Czas więc pakować walizki i nie czekając na sztuczne zmiłowanie, pójść w cholerę, bo, mówiąc za Nałkowską: samiśmy se zgotowali ten los.
Na razie popełnia sporo błędów. Podobno się uczy. To co generuje jest takie… sztuczne. 😉 nie rozpoznaje miast. Nie zna bajek. Mnie nie zachwyciła. Dobrze generuje kartki świąteczne ;). Pozyjemy zobaczymy. Pewno macie rację. Ale zastanawiam sie czy to nie jest taki sam strach jak naszych przodków przed elektrycznością.