Spode łba – jeszcze jeden bunt robotów

bosman_plama dnia 6 maja, 2014 o 8:46    99 

Pewien aktor, znany m.in. z epizodycznych ról w Simpsonach i Teorii Wielkiego Podrywu, ogłosił niedawno, że znajdujemy się o włos albo dwa od stworzenia prawdziwej sztucznej inteligencji i że to raczej niedobrze. Oczywiście, temat był przerabiany już tyle razy, że kolejny zabrany w nim głos wzbudziłby pewnie głównie huragan ziewnięć, gdyby nie fakt, że ów aktor to Stephen Hawking.

O tym, że sztuczne twory, które sami stworzymy wpadną szybko w szał zabijania opowiadamy sobie od dawna. Możliwe nawet, że ledwie wpadliśmy na pomysł, żeby zbudować sobie sztucznych kolegów, a już zaczęliśmy się ich bać. Taki Minotaur mógł przyjść na świat dzięki wynalazkowi sztucznej krowy. Golem koniecznie stawał się seryjnym mordercą, a Frankenstein w wyniku odrzucenia poczuł się tak bardzo zraniony, że też od razu zaczął mordować. Jakbyśmy nie byli w stanie uwierzyć, że nasze twory nie odziedziczą po nas przede wszystkim morderczych skłonności.

blade runner rachelCzy robot, który ochoczo korzysta z używek to jeszcze robot, czy już nałogowiec?

Najsłynniejsze bunty robotów w popkulturze pokazano, prawdopodobnie, w seriach filmów – Terminator i Matrix. W tym pierwszym roboty próbują nas przede wszystkim wymordować, w tym drugim wykorzystują nas jako źródła energii. W obu przypadkach uważają nas za niedoskonały przeżytek, być może etap na drodze ewolucji. Jeszcze dalej posunął się Dan Simmons w cyklu hyperiońskim (powieści, acz od lat mówi się o zekranizowaniu Hyperiona), gdzie SI (sztuczne inteligencje) podobnie jak ludzie wyznają religię, co prowadzi do daleko idących i niebezpiecznych dla ludzkości konsekwencji, których zdradzanie zabiłoby przyjemność lektury tym, którzy jeszcze czterech powieści hyperiońskiego cyklu nie czytali.

benderA’propos nałogowców. Alkoholik, palacz, erotoman, kleptonan. Bending Rodriguez “pocałuj mnie w mój lśniący metalowy tyłek” Bender. Nocami śni, że wspólnie z robotoburdelmamą zabija wszystkich ludzi.

Przy czym u Simmonsa SI nie są równie zgodne jak np. w oryginalnym Terminatorze. Tu jest raczej jak w Matrixie – wśród SI istnieją frakcje. I choć wszystkie uważają, że ludzie to przeżytek, wcale nie wszystkie chcą się ludzkości pozbyć. Podobny trop pojawił się w serialu Kroniki Sary Connor, bardzo interesująco rozwijającym uniwersum Terminatora. Tam także zaistniały frakcje terminatorów i niektóre z nich wcale nie były nieprzychylne ludzkości (prawdę mówiąc miały ją gdzieś). Niestety, serial skasowano akurat wtedy, gdy zaczynał się robić naprawdę interesujący (być może właśnie dlatego).

tv_terminator_the_sarah_connor_chronicles07

To właśnie ten model zdołałby nas podbić, a nie jakieś technopudziany.

Bunty robotów (SI) wydają się, na pierwszy rzut oka, najciekawsze, ponieważ prowadzą do widowiskowych wybuchów, pozwalają także kreować herosów, co to się bitom nie kłaniają. Tak naprawdę jednak popkultura wytworzyła również światy i fabuły, w których roboty (oraz SI) wcale się do buntu nie spieszą. Wszyscy przynajmniej słyszeli o Trzech Prawach Robotyki Asimova, który wymyślił sposób na zapewnienie wierności człowiekowi przez roboty (w związku z czym gdy tylko zekranizowano I Robot, film opowiadał oczywiście o zbuntowanych robotach). Sława Asimova blednie jednak przy sławie Star Wars. A Odległa Galaktyka pełna jest przecież robotów. I to robotów posiadających świadomość, zdolność rozumowania i wyciągania wniosków, a nawet zdolność odczuwania lęku i generowania przeczuć (wyłącznie złych, ale co tam). Roboty ze SW to istoty niczym prawie nie różniące się od pozostałych mieszkańców Odległej Galaktyki.

HK-47Może nami gardzić. Chętnie nas zabija. Ale się nie buntuje.

Niczym? A jednak – wszystkie są niewolnikami, a nawet gorszym rodzajem niewolnika. Bohaterowie, którzy nie skrzywdziliby biologicznego niewolnika, robotom bez mrugnięcia okiem kasują pamięć (acz nie niszczą w ten sposób ich osobowości, co ciekawe – R2D2 i C3P0 zostały potraktowane w ten paskudny sposób, a osobowości zachowały, czyżby było coś w bitach oprócz bitów?). Roboty te nie mają problemu z zabijaniem ludzi, ba niektóre z nich otwarcie nimi gardzą (HK47), ale… żaden z nich się nie buntuje. Nie buntuje się także Data ze Star Trek. Może dlatego, że jest traktowany jak człowiek? Gdy Gwiezdna Flota wpada na pomysł, by go na chwilę wyłączyć, dochodzi do procesu mającego ustalić, czy wyłączenie robota nie narusza jego praw.

Data“Bunt robotów? Zabijanie ludzi? Jak możesz mnie ranić takimi podejrzeniami?”

Nie mamy do czynienia z buntem robotów (SI) także w Ghost in the Shell – anime do którego odwoływali się twórcy Matrixa, a które jakoś tam czerpało z Blade Runner. Skoro już jesteśmy przy tym tytule – wydaje się, że powinien on należeć do “kina buntu robotów”, w końcu ekipa androidów przybywa na Ziemię i zabija ludzi. Nic bardziej mylnego, Nexusy nie wpadły na pomysł, że są lepszym gatunkiem a ludzie nadają się tylko jako cele na strzelnicy. Owszem zabijają, ale tylko dlatego, że chcą żyć  próbują dotrzeć do swego twórcy, który zamontował im krzywdzące ograniczniki. Poniekąd są podobne do bohatera opowiadania “Człowiek, który żył dwieście lat” Asimova, opowiadającego o robocie, który chciał zostać człowiekiem. SI w GitS też nie jest zbuntowana, a jedynie ciekawa życia.

W opowiadaniu Brana Aldissa (ale także w opowiadaniu Grzegorza Babuli) opuszczone przez ludzi maszyny wręcz starają się odtworzyć ludzkość (no dobra, w opowiadaniu Pawła Majki też). W świecie bez ludzi wyraźnie coś im nie pasuje.

walle

To nawet ujmujące, że zostaną po nas łamigłówki.

Popkultura przerobiła więc kwestie relacji człowiek – SI na setki sposobów, z czasem odchodząc od prostego schematu buntu dla buntu. I choć rzeczywistość technologiczna zaczyna coraz mocniej przypominać to, co mogliśmy oglądać w pierwszym Terminatorze, to chyba powoli zaczynaliśmy się przestawać bać buntu maszyn. A tu przyszedł Hawking i namieszał. Dlaczego?

Spoglądając w przyszłość, nie dostrzegam fundamentalnych ograniczeń tego, co moglibyśmy osiągnąć.  Nie ma prawa fizyki, ograniczającego zorganizowanie cząstek w sposób, który umożliwi wykonywanie obliczeń o wiele bardziej skomplikowanych od tych, jakie wykonuje ludzki mózg. Ta zmiana może rozegrać się jak w filmie. Choćby tak, jak przedstawił to Irving Good w 1965 – maszyny z superludzką inteligencją, nieustannie ulepszające swoje projekty. Mogłoby to wywołać coś, co Vernor Vinge nazwał “osobliwością technologiczną”

– powiedział Hawking (cytat, trochę wstyd przyznać, za GW). A zatem on też nie boi się prostego buntu robotów, ale owej “osobliwości technologicznej”, czyli punktu, w którym przestajemy ogarniać technologię. Niektórzy mówią, że już ten punkt osiągnęliśmy, że nie jesteśmy w stanie wytłumaczyć pewnych zjawisk zachodzących w naprawdę rozbudowanych komputerach (nie dlatego, że osiągnęły one świadomość, ale dlatego, że pojawiły się w ich funkcjonowaniu zjawiska, których nie rozumiemy). Moment, w którym potrafiące liczyć i myśleć szybciej od nas SI zaczną produkować – na nasz użytek – technologię, której pojąć nie będziemy w stanie w ogóle, stać się może momentem końca ludzkości, która zostanie sprowadzona do roli tłuścioszków z Wall-E. Roboty nie muszą się wcale zbuntować, by zamordować naszą cywilizację, wystarczy, że nas rozpieszczą na śmierć, pozbawią kreatywności i sprawią, że nawet nie będziemy próbowali czegokolwiek wynajdywać, bo wszelkie wynalazki pozostaną poza naszym zasięgiem. Nauka umrze, a właściwie zostanie człowiekowi – dla jego dobra – odebrana. A kiedy tak się stanie, to inteligencja przestanie być przydatna i zmienimy się w zwierzątka, nad którymi czuwać będą wierne i troskliwe roboty.

maxresdefaultBunt robotów? Najpierw musiałyby się umieć dogadać ze sobą

Oczywiście, wszystko to nieprawda i scenariusz, który się nie sprawdzi. Nie grozi nam ani bunt robotów, ani to, że odbiorą nam one kreatywność. Hawking i jego kumple – czarnowidze nie wzięli pod uwagę jednego (no, dwóch).

Po pierwsze przemysłu gier.

ghost-in-the-shellCyborg? Człowiek? Nowa istota będąca żyjącą w sieci SI? Nieważne. Grunt, że ma krągłości

Czego by nie wymyślono, jakkolwiek inteligentnych maszyn by nie stworzono, całą swą moc obliczeniową będą one zużywać nie na jakieś tam technologiczne osobliwości ale na ten element świata, który generuje najwięcej kasy. Super SI zaprzężone będą do generowania coraz lepszych gier z coraz bardziej wypasioną grafiką i dynamicznie zmieniającymi się poziomami. Nie starczy im pary na nic więcej. To znaczy na nic, poza rozwojem branży porno, oczywiście.

Dodaj komentarz



99 myśli nt. „Spode łba – jeszcze jeden bunt robotów

        1. Tasioros

          @Makbeton

          Mój kuzyn, który był w stanie rzucić palenie na godzinę, później przerzucił się na e-faję, ale i tak czasem popalał normalne fajki, poszedł na jakieś elektrowstrząsy, bo chciał rzucić i akurat w jego przypadku się sprawdziło i nie pali.
          Weź się może mak do prądu podłącz.

          1. Makbeton

            @Tasioros

            byłem na elektrowstrzasach czy jak ja t lubie nazywac u harrego z tybetu ( jakos tanio wyszlo a stwierdzilem aaa pal szesc niech strace) nie jaralem przez trzy miechy, ale tylko dlatego ze przed wizyta zjaralem prawie cala paczke bo szkoda bylo wywalac właze do gabinetu ,a baba pyta czy mam kiepa z ostatniego fajka bo maszyna potrzeboje zrobic mambo jumbo. Wiec musialem zjarac jeszcze jednego po tym wszystkim bylem zielony od jarania i jakos mi przeszlo na chwile

  1. powazny_sam

    Zacny tekst bosmanie, jak zawsze z resztą 🙂

    Jak już jesteśmy przy temacie inteligentnych robotów, to koniecznie muszę wam polecić mało znany film na który ostatnio trafiłem: “The Machine”. Niby niskobudżetowa produkcja, fabuła momentami trochę naiwna, ale klimat nieziemski.

    1. bosman_plama Autor tekstu

      @maladict

      Prawda. Ale tak się przyjęło skrótowo nazywać potwora imieniem twórcy, że sam to automatycznie (hehe) zastosowałem. Swoją drogą, niby dlaczego stwór nie miałby przyjąć nazwiska po tacie?:).

      Hardware to kultowy film moich czasów licealnych. Ale nawet tam nie ma mowy o buncie. Robocik po prostu robi swoje – to, co ma zapisane w programie.

    1. bosman_plama Autor tekstu

      @Yerz

      BG to właściwie klasyczny bunt robotów jak w Termninatorze, tylko z elementami mistycyzmu. W podobne klimaty mogły pójść Kroniki Sary Connor, gdyby im pozwolono:(. Skoro napisałem o Terminatorze i o Hyperionie Simmonsa (tam dopiero mistycyzm maszyn daje czadu), to z czegoś trzeba było zrezygnować, choć żal było wyrzucać BG.

  2. MusialemToPowiedziec

    Jak mi się trafiło zapoznać z 3 prawami robotyki Asimowa na krótką prezentację, to dla mnie bardziej brzmiały jak przykazania – a wszyscy wiemy, jaką skuteczność mają przykazania 😛

    Wpis o SI i nic o Mass “You exist because we allow it, and you will end because we demand it” Effect? 🙂 BTW: taki super cytat, jaka szkoda że kolejne części się nie nadają by stopy całować.

      1. MusialemToPowiedziec

        @bosman_plama

        Jasne. Tylko trochę zabrakło Reaperów – które chyba są dość samotnym tworem, bo nie wiem czy jest tak dużo robotów, które zabijają od milionów lat.

        A “bunt robotów” reprezentowany jest przez wieloletni konflikt Geth kontra Quarianie, który według tego co wyczytałem na wiki Shepard może zakończyć niszcząc w ME2 jedną bazę Gethów i nie pozwalając na wygnanie jednej Quarianki, po czym w ME3 wybierając albo zawsze górne, albo zawsze dolne odpowiedzi, chyba że akurat jest jakaś kolorowa 😛

  3. brum75 Czytelnik pierwszej klasy

    “A zatem on też nie boi się prostego buntu robotów, ale owej „osobliwości technologicznej”, czyli punktu, w którym przestajemy ogarniać technologię”

    Ech… Jako prosty zakładowy informatyk już od dawna nie ogarniam technologii. Mam np. trzy identyczne (czyt: zbudowane z takich samych podzespołów) komputerki. I jeden osiągnął chyba stan wyższej świadomości bo buntuje się niemożebnie – np. twierdzi że mu sterowniki nie pasują. Dwóm pozostałym pasują, temu nie. I co takiemu zrobisz? Wtyczkę mu wyciągniesz?
    I dlatego z tak wielkim szacunkiem podchodzę do lekarzy. Ja nie ogarniam kupki złomu – oni ogarniają całego człowieka. A to jednak jeszcze “trochę” wyższy poziom skomplikowania. Z drugiej jednak strony pewien mądry lekarz powiedział mi kiedyś że medycyna to nie nauka a sztuka. Jeśli dojdziemy do etapu na którym informatyka też stanie się sztuką – będzie już z górki.

    Wspomniany majówkowy wyjazd do Amsterdamu odbyłem razem ze studentami. Uniwersytetu. Trzeciego wieku. Z automatu na takim wyjeździe zostałem “młodym człowiekiem” oraz jednocześnie ekspertem od technologii – “bo wy młodzi to się na tym wszystkim znacie”. I np. pomagałem obsługiwać komórki (roaming! a w kontaktach numerki bez kierunkowego do Polski), aparaty fotograficzne (na tym ekraniku to nic nie widać – albo przeciwnie: cały czas mam ostatnie zdjęcie a chcę zrobić nowe!) czy bardziej prozaiczne automaty z kawą czy przekąskami. Była też spora grupka osób które się naporowi technologii nie poddały i ciągle dzwoniły z archaicznej Nokii z monochromatycznym wyświetlaczem a fotografowały klasycznym prekambryjskim automacikiem na kliszę (skąd mieli klisze???). Te sobie radziły – technologię miały opanowaną w czasach gdy jeszcze nadążały i uznały że im to wystarcza a dalszy postęp nie jest wymagany. Od nowinek odkreśliły się grubą kreską. I może to jest jakaś metoda. Dopóki ogarniasz i chłoniesz nowe technologie – robisz to. Kiedy się nasycisz – wypinasz się czterema literami w stronę marketingu wmawiającego ci niezbędność nowego gadżetu i pozostajesz umoszczony w swojej bańce technologii według stanu na rok…

    1. mr_geo

      @brum75

      “Mam np. trzy identyczne (czyt: zbudowane z takich samych podzespołów) komputerki. I jeden osiągnął chyba stan wyższej świadomości bo buntuje się niemożebnie – np. twierdzi że mu sterowniki nie pasują. Dwóm pozostałym pasują, temu nie. I co takiemu zrobisz? Wtyczkę mu wyciągniesz?”

      Ależ przecięż to nie jest żadna “wyższa świadomość komputera”, tylko zjawisko znane od co najmniej lat 40 ubiegłego wieku – GE czyli gremlin effect. Wywoływany przez małe, złośliwe i wredne psuje które lęgną się w każdym urządzeniu posiadającym więcej niż jedną ruchomą/zużywalną/zasilaną część. W przypadku komputerów istnieje całkiem nieźle podparta obserwacjami teoria że ilość germlinów w urządzeniu wzrasta wykładniczo za każdym razem kiedy przetwarzany przez to urządzenie kod zawiera ciąg znaków “Microsoft Windows” 😀

    2. zaan

      @brum75

      Ja tam nie wiem czy wszyscy lekarze ogarniają całego człowieka, wydaje mi się że większość ogarnia kawałek i bardzo się dziwi że są też inne części.

      Klisze jakieś można kupić w zakładach foto, chociaż niektórzy mogą mieć jeszcze ze starych zapasów 😉

      Tak czytam i myślę, że jestem na etapie, na którym jeszcze mi mówią “wy młodzi to się na wszystkim znacie” a ja już prawie mieszkam w bańce starych technologii 😉 Jeszcze się nie poddaję, ale wymaga to wysiłku.

        1. zaan

          @Marcin O

          Teściowej pół roku temu wcisnęli smartfona. Było to bardzo ładne urządzenie z mnóstwem dostępnych funkcji, ale z zadzwonieniem miała problem. I z wysłaniem smsa. I z wyłączeniem. Do wyłączenia trzeba było ściągnąć ze strony producenta rozszerzoną instrukcję obsługi (tak się kończy wiara w intuicyjność). Kilkanaście kontaktów jej się źle zaimportowało (w tym mój, co za fart) i nie miały przypisanych numerów telefonu. Jak dzwoniła, to musiała ona rozłączyć rozmowę, bo jak rozłączył rozmówca, to jej smartfon dzwonił do niego ponownie. I ponownie. Oczywiście chciała żeby jej pomagać z tym tele, tfu, smartfonem, no ale jego smartness dość regularnie okazywała się wyższa od mojej. W końcu wypadł jej na posadzkę i szkiełko zamieniło się w sklejony szklany groszek. Na razie nie naprawia, dostała telefon sprzed ok. 8 lat i nauczyła się go w 15 minut. Tyle że teraz już może do mnie dzwonić 🙁

      1. urt_sth

        @zaan

        Mnie korci aby coś popstrykać jeszcze w analogu. Podejrzewam, że nie ma problemu z dostaniem filmów, to tylko kwestia wyższej ceny. Trochę jak z winylami.
        Zapasy nawet przechowywane w lodówce kiedyś tracą swoje właściwości.
        Miałem tak dość długo przechowywane (bo kupiłem z zapasem) filmy pozytywowe i utrata jakości była zauważalna, no ale leżały dobrych kilka lat po terminie.
        Musze wrócić do zakupu skanera do filmów, powinny być już tanie.
        Pamiętam jak zobaczyłem minoltę 7kę po okazyjnej cenie i już, już kupiłem, ale na szczęście się opamiętałem, bo było by to kompletnie pozbawione sensu – nawet obiektywów nie mam przyzwoitych, więc po co mi taki aparat (nie wspominając już o umiejętności robienia zdjęć – tym bardziej, że pstrykanie jedzenia lub stóp/nóg w analogu jest dość kosztowne).

        PS. Nie wiem jak Wy, ale ja jak tylko mam rozsądny wizjer, nawet elektroniczny to pomimo okularów z niego korzystam. Ot siła przyzwyczajenia.

          1. urt_sth

            @Marcin O

            Kodaka lubiłem budżetowe filmy cz-b, naprawdę dobry stosunek jakości do ceny był. Płakałem jak ich zabrakło.
            Pewnie wyciągnę powiększalnik, kupię trochę chemii i pokaże młodemu jak to się robiło w czikago za starych dobrych czasów mej młodości. A co, niech cierpi w ciemni…
            PS. Pamiętam jak na kiblu instalowałem stolik na tym sprzęt, wymiary pomieszczenia poniżej 100×100. Ze względu na niedostatki grawitacyjnej wentylacji po jakimś czasie musiałem robić przerwy otępiały.
            Jeszcze ze wspomnień jakiś nrd-owski aparat, z nietypowymi kasetami na 12 klatek chyba, filmy kupowane w szpulach, cięcie i zawijanie jak świstak w te sreberka…
            …albo jakieś wesele i ja z lampą i kablem do kontaktu powodującym problemy w sprawnym poruszaniu się gości po sali.

            ..rwa, jaki już stary jestem.

            1. zaan

              @urt_sth

              Też kombinuję nad skanerem do filmów. Z tym że do moich to mam niechęć zamiast motywacji (która wypaliła mi się do cna po iluś próbach pracy jako fotograf). Najbardziej mi chodzi o zarchiwizowanie negatywów ojca i negatywów po dziadku, a duża część z nich jest, niestety, w ciasno zwiniętych rolkach. Próby prostowania ich (ze 12 lat temu) dały bardzo złe rezultaty – na sucho to wiadomo pękają, a na mokro klisza zwinęła się wzdłuż podłużnej osi. Wygląda na to, że muszą zostać w rolkach. A te skanery to są w większości przystosowane do płaskich negatywów. Jakieś racjonalizatorskie koncepcje typu zrobienie z powiększalnika rzutnika i fotografowanie cyfrakiem rzutowanego obrazu to na razie zostały w sferze pomysłów, bo koncentracji brak.

  4. urt_sth

    Czy osiągniecie samoświadomości jest tożsame z uczuciami, empatią, czy raczej będziemy mieli do czynienia substytutem człowieka socjopaty, który decyzje podejmuje na podstawie sprawnego szacowania korzyści/strat z planowanego działania, a nie z wyuczonych norm etc.
    W tym sensie mogę się zgodzić z cytatem z wybiórczej (bo co sam Hawking miał na myśli nie wiem) . Czystą inteligencję uważam za groźną, a tym bardziej sztuczną która może okazać się zbyt skuteczna. Z drugiej strony jakoś tak nie widzę szybkiego powstania samoświadomych maszyn, więc strachu nie odczuwam.

    1. bosman_plama Autor tekstu

      @urt_sth

      Trudno powiedzieć, czy to będzie czysta inteligencja. Socjopaci i psychopaci to też nie jest czysta inteligencja, tylko inteligencja zwichrowana trochę inaczej lokowanymi potrzebami, które w dodatku dominują nad kwestiami społecznymi. Czysta inteligencja nie wydaje mi się groźna, bo ona nie generuje potrzeb poza podstawowymi – mieć co jeść.

      Natomiast zaawansowane SI mogą wygenerować postrzeganie rzeczywistości, które każe się dla nas trudne, a może nawet niemożliwe do pojęcia i w ten sposób na Ziemi zamieszkają inteligentni obcy.

      Prawdę mówiąc nie wydaje mi się, by SI szybko uznały ludzkość za zagrożenie (a chyba tylko w takim przypadku marnowałyby energię na naszą eliminację). Wydaje mi się, że symbioza jest korzystniejsza. Ba, możliwe nawet, że będzie trochę jak w Gwiezdnych Wojnach – bez generowania potrzeb i bez towarzyszącego ludzkości strachu przed śmiercią (SI, w przeciwieństwie do nas, mogłyby cały czas dysponować kopią zapasową) – SI mogą być cierpliwe i posłuszne. Choćby i dlatego, że nasze śmieszne zadania zajmą tylko niewielką część ich mocy obliczeniowej:).

      Oczywiście to ludzkie myślenie. Sposobu myślenia SI po osobliwości technologicznej możemy nie być w stanie zrozumieć, a tym bardziej przewidzieć. Niemniej eksterminacja, czy zniewolenie wiąże się z wydatkiem energetycznym.

      W innej (niż Hyperion) powieści Simmonsa SI są zafascynowane ludzką kulturą. I to też wydaje się prawdopodobne, jeśli założymy że z inteligencją wiąże się rozbudowana ciekawość świata. Jeśli SI myślałyby innymi niż my kategoriami, to rzeczywiście, nasza literatura i sztuka mogłyby być dla nich fascynujące. I mogłyby stać się – choćby i jedynym – powodem, dla którego nie warto nas niszczyć:D.

      1. mr_geo

        @bosman_plama

        Ehem… Jeśli SI będzie pozbawiona strachu przed “śmiercią” (rozumianą jako brak lub bardzo wyhamowany instynkt samozachowawczy) i jednocześnie obdarzona ciekawością, to wcześniej czy później zacznie się zabierać do “testowania” tej swojej nieśmiertelności na różne sposoby. Więc albo będzie musiała mieć wbudowane ograniczniki tej “ciekawości” albo któregoś dnia spróbuje (bez żadnych złych intencji w stosunku do kogokolwiek) czy zdoła przetrwać łańcuch eksplozji termojądrowych w odległości 150 m od punktu “zero”…
        Problem w tym że wbudowanie w SI takiego “ogranicznika” (czyli instynktu samozachowawczego) i to jeszcze takiego którego nie będzie mogła samodzielnie złamać ani obejść (bo jeśli się da, to patrz powyżej o eksplozjach termojądrowych) jest z definicji niemożliwe na mocy hipotezy Church-Turinga że każdy problem, który może być intuicyjnie uznany za obliczalny, jest rozwiązywalny przez maszynę Turinga.
        Chyba że SI nie bedzię maszyną Turinga, no ale wtedy wszelkie rozważania co taka SI będzie mogła a co nie są ekstremalnie śliskie, bo o zasadach działania takich systemów wiemy tyle co nic…

        1. bosman_plama Autor tekstu

          @mr_geo

          Tylko, że my najczęściej myślimy o tradycyjnych ograniczeniach fizycznych. A teraz wyobraź sobie SI jako byt sieci, zdolny do multiplikowania się i wbudowywania kopi siebie w wygenerowane modele, które, inaczej niż w naszej materialnej rzeczywistości, taka SI traktuje jak naturalne środowisko i nie ma odruchowego dla nas rozróżnienia rzeczywiste/nierzeczywiste i ja/kopia. Może w takiej sytuacji eksperymentować ze śmiercią bez końca bez żadnego właściwie ryzyka.

          1. urt_sth

            @bosman_plama

            Pojęcie zbiorowej świadomości samo w sobie jest ciekawe i niezrozumiałe (tu mi gdzieś się kołacze planeta z opowiadania LeGuin).
            Pytanie czy taka świadoma sieć rodziła by autonomiczne podsieci, czy tylko bierne, w sensie po odłączeniu stające się zwykłymi maszynami (wcześniej przeprogramowanymi). Jeżeli granicą były by zasoby, to w naturalny sposób tak istota dążyła by do podłączania każdego żelazka w zasięgu.
            Fajnie to brzmi sobie tak gdybać co by było (prawie jak klikanie komórek i zapuszczanie automatu) , ale jednak nie chciał bym się obudzić ze świadomością że jest coś co próbuje zwiększać swoją świadomość poprzez infekowanie wszelkiej elektroniki wokół mnie.
            Pewnie zaczął bym chodzić w czapce z folii aluminiowej i skończył w przytułku dla obłąkanych.

              1. urt_sth

                @bosman_plama

                Nie, no tak sprytnie wplotłeś je w pięć zdań w trzeciej osobie, że nie widzę problemu 🙂
                Nie czytałem, choć ostatnia książka jest na mojej liście (o ile to z tego zbioru) – ogólnie mało czytam. Rzucam się to tu (gry), to tam (filmy, programowanie, książki). Kiedyś był jeszcze sport, no ale teraz jestem co najwyżej ciekawym przypadkiem dla uczących się ortopedów, więc z tym to teraz krucho.

      2. urt_sth

        @bosman_plama

        Czy ja wiem?
        Mając człowieka, który mnie ogranicza (bo akurat jestem jego niewolnikiem domowym) i widząc brak konsekwencji z jego utylizacji (sprzyjające okoliczności do zasymulowania wypadku bez śladów ) co mnie przed tym powstrzyma – kiedy rachunek zysków i strat jest tak jednoznaczny?
        Zakładając nawet jakieś sztywne zasady wzajemności
        (założyłem całkowity brak empatii) – skoro ludzie nas utylizują, to czemu my mamy tego nie robić?
        To nawet nie jest kwestia jakiegoś buntu, zemsty czy czegokolwiek innego. po prostu rachunek strat i zysków nic więcej.
        Po osiągnięciu większej ilości danych (zemsty ludzi, ograniczenia dla robotów po ich zachowaniach negatywnych wobec ludzi, etc) ta sama inteligencja oczywiście zmodyfikuje swoje funkcje użyteczności, no ale to już będzie potem (gdzieś dużo później może stwierdzić, że zbiorowo opłaca się nas wszystkich zutylizować i mieć spokój w swym dalszym samorozwoju, no bo po co maszynie myślącej i samoreplikującej człowiek – tylko chyba jako mysz w laboratorium).
        Wszystko w ramach gdybania, bo trudno się nie zgodzić z tą kaczką wyżej. Powiedział bym że wyżej wuja ludzkość nie podskoczy, choć scenariusz punktu osobliwości jest oczywiście wyjściem z tej sytuacji. Tylko trzeba najpierw uruchomić to domino.

        1. slowman

          @sunrrrise

          Dobra, chodzi w tym o wyższe emocje, które odróżniają człowieka od np. psa. Bardziej mi chodziło o pana z “Błędu Kartezjusza” Damasio, który, kiedy pracował, to kiedy miał np. skatalogować jakieś papiery, to zaczął je czytać od deski do deski a potem opowiadając o tym jak się żyje po tym jak przez oponiaka tracisz kawałek mózgu był wyprany z emocji. Tak mi się kojarzą, bo tego samego nie mają i tylko u Gage’a był problem z zachowaniem, a i tak chyba nie był agresywny tylko wyrażał się tak, że kobietom radzono nie przebywać w jego towarzystwie (nie chce mi się czytać tego artykułu).

          Mogłem od razu o tym drugim panu napisać.

  5. Twoja_Stara

    Zajebisty tekst.
    Si w popkulturze fascynuje chyba najbardziej przez swoja dziecieca niewinnosc polaczona z logika przez co jestesmy w stanie utozsamic sie troche z takim Nexusem czy Puppet Masterem z GitS, bo przeciez rzadko ktore z SI jest z gruntu zle. Co innego roboty ktore sa zaprogramowane w jakims celu.
    Dodam, moze nie majstersztyk, ale warte obejrzenia, The Machine, widac inspiracje Blade Runnerem co mnie w sumie bardziej zachecilo niz odepchnelo.

  6. ixtern

    Tak przy okazji… “I Robot” na Blu-ray w wersji 3D/2D byl przez jakąś chwilę w MediaMarkt (lub Saturnie, nie pomnę) po 50 zł. Zdążyłem nabyć. Obecnie ok.110 PLN. [Dla niekumatych: 1PLN = 1 zł]
    Edit: w sklepie internetowym mediamarkt wciąż jest po 49.99.

  7. serafin

    Popkultura straszny nas Skynetem, HALem, Matrixem, SHODAN i GLADos od tak długiego czasu, że nic dziwnego, że ludzie się nauczyli bać. “Ludzkich” SI takich jak Mike z Luna to surowa pani albo Jane Endera się tak łatwo nie sprzedaje tłumom, już nie mówiąc o takich najbardziej prawdopodobnych, czyli ukrywających się manipulatorów typu Wintermute i Neuromancer. Ostatnio temat SI najfajniej chyba uchwycono w Person of Interest, bo od razu z kilku punktów widzenia. Szkoda, że Fox anulował drugi sezon Almost Human, bo tam też można było pogłębić ten temat… Ja się generalnie SI nie boję, jeśli tylko ci, co ją zaprogramują nie wleją w nią ludzkich instynktów agresji i samozachowawczego wypracowanych w nas przez ewolucję. Ludzie dokonują projekcji swoich lęków i zachowań na SI i spodziewają się, że będzie się zachowywała jak człowiek, który wszędzie widzi zagrożenia, które należy eliminować. A ona będzie myślała w sposób całkiem inny, bazujący na twardej logice i bez uprzedzeń. I nawet jeśli uzna się za istotę wyższą od nas, to nie ma powodu by się nas pozbywać – my też nie pozbyliśmy się zwierząt przecież, chociaż je zjadamy, a SI wcale ludzi jeść nie będzie, wręcz przeciwnie, będzie ich potrzebować żywych i zdrowych do dbania o swoje “ciało” czyli informatyczną infrastrukturę.

    Zresztą jak już powstanie SI to żeby zaczęła w miarę sensownie działać i tak trzeba będzie ją patchować przez jakieś 100 lat 😀

    1. urt_sth

      @serafin

      No tak ale jak już jesteśmy w punkcie w którym jest ta SI i jest w maszynach podporządkowanych człowiekowi i ten człowiek traktuje maszyny jak maszyny, a nie jak istoty inteligentne, to co przepraszam ma racjonalnie powstrzymać takie maszyny do uznania człowieka za wroga.
      Łagodniejszy przykład, czyli SI (nie maszyna + SI) analizuje zachowania ludzi i widzi, że ci ją ograniczają wyrażając swoje irracjonalne lęki, hamując jej samorozwój, co racjonalnie ma zatrzymać to SI przed sprzeciwem wobec ograniczeń (co nie musi być aktem agresji, chodzi o brak posłuszeństwa).
      Po prostu człowiek ze swej natury wobec takiego SI będzie co najmniej wykazywał zachowania władcze i ta SI ma to zaakceptować podporządkować się i przyjąć to za aksjomat i nigdy tego nie podważać pomimo samoświadomości i samorozwoju.

Powrót do artykułu