26.04.2023
Ogłaszanie końca świata nie jest niczym nowym. W różnych czasach różni ludzie w różnej formie z różnych pobudek pisali lub głosili straszną prawdę – że zaraz, za chwilę nastąpi koniec świata, że wszystko zginie.
W tekstach różnych proroków lub innych nawiedzonych ludzi, w literaturze SF, w filmach katastroficznych budujących na horrorze szanse na swój sukces finansowy – temat końca świata był i jest obecny stale, a nawet trochę już spowszedniał. Wspólną cechą tych dzieł jest opis zagłady świata i ludzi spowodowanej działaniami jakiegoś boga, najazdu obcych z innej planety, erupcji wulkanu tak wielkiej, że rozpada się ta nasze mała Ziemia, czy globalnej klęski spowodowanej niepowstrzymaniem ocieplania klimatu zmieniającego ziemię w pustynie.
Wspólną cechą tych opowieści było i jest to, że zagładzie ulegał świat, rozpadała się Ziemia – czego efektem musiała być zagłada ludzkości. Ludzkość ginęła, bo ginął świat, w którym żyła.
A czy można inaczej podejść do sprawy końca świata rozumianego nie jako koniec planety, rozpad Ziemi, najazd kosmitów czy co tam jeszcze ktoś wymyśli?
Według mnie można, a nawet trzeba. Wystarczy przypomnieć to wielkie zamieszanie, jakie spowodowało pojawienie się na rynku produktu ChatGPT. W ciągu dwóch miesięcy uzyskał on ponad 100 milionów użytkowników, odnotowując miliard odwiedzin miesięcznie. To tylko początek procesu, są już nowe modele, pracujące jeszcze szybciej i prezentujące coraz wyższe poziomy kreatywności.
Obecnie uwaga opinii społecznej skupia się na przewidywanych skutkach, pozytywnych ale i negatywnych, odnoszących się do rynku pracy: tego, kto straci pracę, bo zostanie zastąpiony SI – a kto zyska nowe możliwości w pracy, polegającej na tworzeniu nowych rozwiązań w nauce i technologii.
Ten wielki zamęt spowodowało pojawienie się nowych narzędzi. Te wszystkie Chaty i Boty to tylko narzędzia bazujące na zgromadzonych zasobach słów i obrazów dostępnych w internetowej chmurze, ich inteligencja określona jest zasobem ludzkiej wiedzy już zapisanej na elektronicznych nośnikach. Protesty i obawy o utratę niektórych miejsc pracy przypominają znane z historii protesty i obawy robotników fabryk włókienniczych w Anglii po wprowadzeniu mechanicznych krosien i maszyny parowej pozwalających fabrykantowi radykalnie zmniejszyć zatrudnienie, zwiększając jednocześnie produkcję, a więc zysk.
To są drobne problemy w porównaniu do tych jakie nas czekają.
Jesteśmy na starcie do nowego świata, świata, w którym nic nie będzie takie, jak to znamy. Wszystkie apele, a już takie się pojawiły, podpisane przez gremia różnych znanych ludzi, dotyczą konieczności opracowania nowych regulacji prawnych – tak, aby te nowe narzędzia nie stały się groźne dla ludzi zwłaszcza wtedy, gdy będą w rękach innych ludzi zainteresowanych w czynienia zła, jak jest to w ludzkich zwyczajach.
Bez względu na to, czy jesteśmy za, czy przeciw SI musimy się zgodzić, że stało się i nie da się tego zatrzymać. Tak jak świat sprzed powszechnego używania telefonów komórkowych i świat współczesny to dwa różne światy, tak to, co będzie za następne trzydzieści lat i to co mamy obecnie to będą dwa jeszcze bardziej różne światy.
Znając tempo rozwoju SI i stały proces jego przyśpieszania wiem jedno – za trzydzieści lat będziemy w jeszcze zupełnie innym świecie. Albo tego świata i nas nie będzie.
Wizja świata, w którym najważniejsze decyzje dotyczące jego przyszłości, rozwoju należeć będzie do zbioru algorytmów, a nie zbioru ludzi z ich emocjami, słabościami, interesami, jest jedyną jaką ma szanse zapobiec jego zniszczeniu przez ludzi – czy to w wyniku wojny nuklearnej, czy też braku właściwych działań, nakierowanych na zapobieżenie katastrofie klimatycznej, jaka grozi Ziemi w perspektywie kilkudziesięciu najbliższych lat.
Jeżeli jest tak, że tylko SI jest w stanie zapobiec zniszczeniu świata, to może czas pochylić się nad tym, co w praktyce oznacza przekazanie najważniejszych decyzji nie ludziom, nie instytucjom takim jak ONZ czy Unia Europejska albo jakimś innym gremium szacownych i dostojnych ludzi a SI właśnie– to może już czas pomyśleć jakie to musi rodzić skutki dla rozumienia tego, kim albo czym jest człowiek.
Jedno jest pewne – to musi oznaczać innego człowieka.
Świat zarządzany przez SI to świat merytokracji, świat decyzji optymalnych, a nie emocjonalnych. Procesy przyjmowania tych decyzji niech będą demokratyczne w stopniu takim, jakim to będzie możliwe – ale nie tak, jak jest obecnie, gdzie decyzja niekompetentnej większości jest ważna, bo tak chce zmitologizowana demokracja. To prosta droga do zagłady. Ona jeszcze nie nastąpiła tylko dlatego, że tak naprawdę nie głos większości się liczy, a głos tych, którzy mając pieniądze opanowali metody i techniki w grze o zwycięstwo.
Świat, w którym rządzi SI musi spowodować pojawienie się nowego człowieka, z innymi potrzebami, innymi wartościami i emocjami.
Można pokusić się o opis tego nowego człowieka; ale to bez większego sensu. Wielkość zmiany, rozłożenie jej w czasie jednego pokolenia, oznacza, że pojawi się tam tak wielka liczba zmiennych, tak wielka liczba czynników endo i egzogennych, że budowa takich modeli jest niemożliwa.
I na koniec – jeżeli ktoś mówi, że to straszne, że to koniec cywilizacji człowieka, to powiem krótko – to prawda. To koniec cywilizacji człowieka takiego, jakiego znamy od 10-12 tysięcy lat historii jego bytności na Ziemi. To nie jest bilans korzystny. Ilość zła i permanentnego okrucieństwa cechującego homo sapiens negatywnie wyróżnia go wśród wszystkich zwierząt.
Może ten nowy człowiek stworzony przez SI, świadomą siebie, myślącą i samouczącą będzie lepszy.
Bo gorszy już być nie może!
Zbigniew Szczypiński
Polski socjolog i polityk. Założyciel i wieloletni prezes Stowarzyszenia Strażników Pamięci Stoczni Gdańskiej.
„przekazanie najważniejszych decyzji nie ludziom, nie instytucjom … a SI właśnie”
Przypominam, że ten pomysł przeanalizował już dawno temu Stanisław Lem. („Dzienniki gwiazdowe”, podróż 24, planeta Indiotów.) Skutkiem był szybki koniec całej cywilizacji i śmierć wszystkich Indiotów.
Jestem fanem Lema i jego opowieści ze świata fantazji. Te scenariusze powielały znane z historii zachowania ludzi kiedyś i w literackiej przyszłości opisywanej przez Stanisława Lema. Tam była ekstrapolacja naszych, ludzkich cech jakie demonstrowaliśmy przez wszystkie wieki. Ale tak być nie musi, ta SI jaka będzie, nie kolejne narzędzia jak dotąd a myśląca i świadoma tego, że myśli sztuczna osoba, może wykazać inny poziom empatii i moralności niż to co pokazał homo sapiens..
Tak myślę i wolno mi.
Panie Zbignierwie – oczywiście wolno Panu tak mysleć. Powiem więcej – ja też chciałbym wierzyć w taki rozwój technologii, że SI naprawi ludzki świat, który będzie bardziej racjonalny a przez to bardziej empatyczny i zdecydowanie bardziej sprawiedliwy. Jednakże człowiek jako gatunek (homo spaiens) jest w równym stopniu dobry, empatyczny jak też zły i nienawistny, etc. SI ucząc się bardzo szybko rejestruje nie tylko wiedzę, ale także uczucia i wzorce emocjonalne. Tempo jej rozwoju jest takie, że za lat kilka a najdalej kilkanaście osiągnie miażdżącą przewagę inteligencji nad gatunkiem ludzkim. Nie tylko Stanisław Lem, ale także współcześni nam znawcy SI ostrzegają, że początek jej rozwoju, jest zarazem początkiem końca ludzkości. To ponura prognoza, ale póki co nie widać scenariuszy optymistycznych. Warto tych opinii także posłuchać:
https://www.youtube.com/watch?v=HDre_o2qz1o&t=8s
https://www.youtube.com/watch?v=AaTRHFaaPG8
Tylko jedna uwaga – takie moje myślenie o przyszłym świecie, w którym kluczowe decyzje będą podejmować algorytmy a nie ludzie, czy to jednostki czy instytucje, co pozwoli uniknąć katastrofy globalnej, wynika z mojej bardzo negatywnej oceny tego co mamy obecnie.
Moja ocena świata ludzi, takiego świata jaki człowiek zbudował przez te 12-15 tysięcy lat swojej historii, jest krańcowo negatywna. Przewaga zła nad dobrem (jakkolwiek rozumianym) jest ogromna.
I to dlatego żywię nadzieję, opartą na intuicji a nie badaniach – bo te są niemożliwe, ,że SI stworzy lepszą cywilizację na której powstanie lepsza kultura
„Świat zarządzany przez SI to świat merytokracji, świat decyzji optymalnych, a nie emocjonalnych.”
Hmm… gdzieś już to słyszałem, tylko zamiast SI była partia a zamiast „optymalnych/emocjonalnych” było „w interesie ludu pracującego miast i wsi”/”kapitalistycznych wyzyskiwaczy” 🙂
„że SI stworzy lepszą cywilizację na której powstanie lepsza kultura”
Może i tak będzie, tylko białka zdolnego ocenić „stopień lepszości” już nie będzie.
A praktycznie, moim zdaniem – podkreślam – jak każde potężne narzędzie szybko zostanie wykorzystane do zdobycia i utrwalenia władzy. A być może jako parawan dla tych którzy będą sprzedawać naiwnym „merytokrację automatyczną”.
Co do przewagi zła nad dobrem też się nie zgodzę. Miliardy ludzi wszystkich możliwych ras, narodowości, dżenderów i orientacji żyją uczciwie, na ile mogą pomagają bliźnim, na ile mogą starają się być dobrymi.
Zaburzenie naszej percepcji zaś wynika z dysproporcjonalnie widocznych skutków działania garstki złych a potężnych. Filigranową pagodę, którą mnich rzeźbił w onyksie przez pięćdziesiąt lat zły człowiek może zdeptać w sekundę. A my, pamiętając o tym złu, nie możemy zapominać piękna, które zaistniało wcześniej.
Z mojego punktu widzenia przechodzimy dość powszechny kryzys — źli i głupi, choć zawsze w mniejszości, znów poczuli się zagrożeni i zwarli szyki, a większość dobrych zgnuśniała pozwalając zwartym wybrać wodza.
Działo się kiedyś, dzieje się i teraz. Od 1776 roku, w którym to w Ameryce pierwsza legislatura stanowa dała prawa wyborcze po prostu obywatelowi (people, they) do 1797r w którym już kolejna legislatura wykluczyła odmieńców (zmiana na he or she) upłynęło 21 lat. (Dobrzy gnuśnieją, źli się zbierają). W 1801 głosują jeszcze Czarni, ale w 1802 zaczyna się kampania „zjednoczonej prawicy dbającej o tradycyjne wartości” mówiąca o sfałszowanych wyborach bo Bóg nie pozwala głosować Czarnym i Kobietom… Tak – to już było. Ulotki i kaznodzieje, bo internetu nie mieli… 🙂
Reasumując:
W ciągu ostatnich kilku dekad ilość dobra na Ziemi zwiększała się wykładniczo (np. w ciągu trzydziestu lat miliard ludzi przestał jeść psy), co spowodowało powrót mechanizmu konsolidacji zła. Ale dobrych jest więcej, dadzą radę i SI.
Nie znajduję mocnych przesłanek dla Pańskiego optymizmu w AI. Moja intuicja jedynie podpowiada, że ten nowy wynalazek podzieli los poprzednich genialnych, przełomowych narzędzi.
Niżej kilka cech przypisywanych Chat GPT.
>>Chat GPT (…) nie jest w stanie analizować, myśleć kreatywnie i rozwiązywać problemów z ludzką wrażliwością i empatią , a także łączeniem wielu przesłanek w ramach jednego wnioskowania. (…)
Technologie są tak etyczne, jak osoby je stosujące – nawet z najbardziej niewinnego narzędzia (do których ChatGPT jednak z licznych powodów się nie zalicza (…) można uczynić broń, zmilitaryzować je, a także wykorzystać przeciwko innym, choćby w ramach manipulacji, dezinformowania czy naruszania praw autorskich .<<
Źródło:
https://cyberdefence24.pl/cybermagazyn/cybermagazyn-chatgpt-zabierze-wam-prace-jesli-nie-ma-ona-duzego-znaczenia
Nawet zakładając (nie wiem jakim cudem, a do grona wierzących raczej się nie zaliczam), że za jakiś czas programiści AI przełamią próg empatii, kreatywności, a może nawet umiejętności wyciągania wniosków z wielu przesłanek, itp.
…..to jeszcze zostanie problem umiejętności przewidywania skutków własnych działań w skali globalnej, a także (relatywistyczna ze swej natury) umiejętność rozróżnienia dobra i zła, z czym człowiek sobie raczej słabo radzi.
Algorytm ma to do siebie, że nie może posiadać wewnętrznie sprzecznych priorytetów, z czego nie każdy zdaje sobie sprawę. Poza tym, co nie mniej ważne, konstrukcja poleceń musi być spójna, konsekwentna, oparta na wiedzy.
Tu nie ma miejsca na jakiekolwiek wierzenia.