Sztuczna inteligencja, Prawdziwe zagadnienie

Inteligentna skrzynka czy prawdziwy chłopak?

Neil Osterweil Z archiwum lekarza

24 września 2001 - Jeśli stworzysz maszynę, która jest zdolna do samodzielnego rozumowania, to czy stworzyłeś życie? Czy jesteś odpowiedzialny za to życie, czy tylko zmontowałeś kolejny kawałek sprytnego sprzętu, który zostanie zdezaktualizowany przez następną nową rzecz?

W filmie Stevena Spielberga-Stanleya Kubricka AI (czyli sztuczna inteligencja) producent robotów tworzy Davida, syntetycznego chłopca, który jest zaprogramowany na miłość. Jego ludzki właściciel uruchamia program, który nieodwracalnie utrwala afekt cyberkida na jego właścicielu.

Jednak projektując i budując Davida, twórca robota stworzył kolejnego potwora Frankensteina. Pozornie samoświadomy "mecha" (skrót od "mechaniczny") łaknie miłości od swojej ludzkiej "matki" i tęskni jak Pinokio, by stać się "prawdziwym" chłopcem.

Film porusza zarówno intrygujące, jak i niepokojące pytania filozoficzne o to, co to znaczy być człowiekiem, mieć poczucie własnego ja i być unikalną, niezależną istotą godną szacunku i praw w świetle prawa.

Kiedy David, chcąc uchronić się przed zaczepkami i groźbami chłopców z krwi i kości, przypadkowo rani syna swoich właścicieli, zostaje porzucony w lesie i pozostawiony sam sobie. Trafia do towarzystwa dziwacznych, zepsutych, na wpół uformowanych robotów, które utrzymują się przy życiu dzięki zbieraniu części zamiennych z wysypiska śmieci.

Ale tylko dlatego, że David płacze i błaga, by zostać z kobietą, którą nazywa mamą, i ucieka, gdy tropią go łowcy nagród, czy jego instynkty przerażenia i samozachowawczości są prawdziwe, czy to tylko genialna mechaniczna i elektroniczna symulacja tego, jak zareagowałby prawdziwy chłopiec? Czy to ma znaczenie?

Myślę, więc jestem?

Dr Nick Bostrom, wykładowca filozofii na Uniwersytecie Yale w New Haven, Conn. twierdzi, że ma to znaczenie.

"Myślę, że gdy tylko jakaś istota staje się czująca - zdolna do odczuwania bólu lub przyjemności - uzyskuje jakiś rodzaj statusu moralnego, tylko na mocy tego, że jest w stanie cierpieć" - mówi doktorowi Bostrom. "Nawet jeśli zwierzęta nie mają praw człowieka -- i większość z nas uważa, że dopuszczalne jest wykorzystywanie ich do badań medycznych -- wciąż istnieją granice. Nie pozwalamy ludziom torturować zwierząt bez żadnego powodu".

Frank Sudia, JD, ma nieco inne kryteria. Mówi, że zdolność do dokonywania i działania w oparciu o jeden lub więcej wyborów spośród wielu opcji, a także zdolność do decydowania, która z tysięcy możliwości jest najlepsza do wykorzystania w nieprzewidzianej sytuacji, może być podstawową, roboczą definicją tego, co oznacza "być".

"Jeśli maszyna ma moc samoreprodukcji -- jeśli może szukać własnych celów lub nawet wybierać własne cele z jakiejś listy celów, o których czyta w gazecie [i decyduje], 'Och, chcę wyglądać jak Madonna,' -- myślę, że ta zdolność wyboru, kierowana jakkolwiek, jest nieodróżnialna od tego, co uważamy za nasze poczucie jaźni" - mówi doktor.

Sudia jest mieszkającym w San Francisco konsultantem ds. bezpieczeństwa w handlu elektronicznym oraz samozwańczym etykiem, naukowcem i myślicielem zajmującym się systemami inteligentnymi. Porównuje rolę projektanta systemów sztucznej inteligencji lub twórcy robotów do roli rodzica nastolatka.

"Nastolatek zaczyna mieć dobrą różnorodność reakcji [ale] nie ma naprawdę świetnego systemu powstrzymywania" - mówi. "Próbujesz ukształtować ich charakter w taki sposób, że będą dokonywać rozsądnych wyborów, które będą dla nich społecznie korzystne. Więc w ogromnym stopniu bawisz się w Boga ze swoimi dziećmi. Zapomnijcie o formowaniu ich na Mozarta -- staracie się uformować je w coś, co może przetrwać, nakłaniając je do posiadania własnego ja."

I Make Choices, Therefore I Am?

Sama zdolność do dokonywania wyborów nie sugeruje autonomii, zauważa Bostrom. Komputer Deep Blue pokonał szachowego arcymistrza Gary'ego Kasparowa. Może on wybierać spośród milionów możliwych ruchów szachowych w danej sytuacji, ale spróbuj go wysłać na drugą stronę ulicy, aby kupił kwartę mleka.

"Aby przyznać autonomię człowiekowi, wymagamy od niego całkiem sporo" - mówi Bostrom. "Dzieci nie mają pełnego zakresu autonomii, choć potrafią więcej niż wybierać ruchy szachowe czy dokonywać prostych wyborów tego typu. To wymaga koncepcji ich dobrobytu, planu życia i tego typu rzeczy. Nie sądzę, by jakakolwiek maszyna istniejąca dziś na ziemi miała ani czucie, ani autonomię."

Abyśmy mogli powiedzieć, że maszyna jest samoświadoma, a więc jest istotą świadomą, musimy najpierw wiedzieć, czym jest bycie świadomym. Przynajmniej jeden ludzki umysł twierdzi, że jeśli chodzi o naturę świadomości, nie mamy pojęcia.

Doktor Margaret Boden, profesor filozofii i psychologii na Uniwersytecie w Sussex w Anglii, twierdzi, że być może uda się stworzyć robota, który będzie sprawiał wrażenie samoświadomej, autonomicznej istoty.

"W zasadzie mogłaby istnieć komputerowa symulacja takiej istoty, ponieważ wszystko, co robi ludzki umysł, zależy od ludzkiego mózgu" - mówi. "Ale jeśli pytasz mnie, czy taki robot byłby świadomy, powiedziałbym, że nie wiemy nawet, co to znaczy powiedzieć, że jesteśmy świadomi".

Nawet jeśli założymy, jak Spielberg i Kubrick, że możliwe jest stworzenie robota zdolnego do działania we własnym interesie oraz odczuwania bólu, straty i samotności, to czy będziemy go traktować jak jednego z nas, czy tylko jak kolejny inteligentny toster?

Kupuję artykuły spożywcze, więc jestem?

Jeśli możemy być emocjonalnie manipulowani przez film - inną formę symulowanego życia - lub jeśli podoba nam się Paryż w wersji Las Vegas, to z pewnością wpłynie na nas płacz dziecka-robota lub błagania sztucznego chłopca, takiego jak David w AI. I to właśnie ten interfejs - pudełko, w którym znajduje się sprzęt (mózg robota) i sposób, w jaki oprogramowanie wchodzi w interakcję z użytkownikiem - może zrobić różnicę.

"Gdyby SI upodobniła się do psa, może miałaby prawa psa (...). Gdyby upodobniła się do Einsteina, może miałaby prawa Einsteina" - mówi Sudia.

Z pewnością możliwe jest zaprojektowanie inteligentnego systemu, który mógłby, powiedzmy, zrobić za nas zakupy spożywcze i zapłacić w kasie. Aby to zrobić, nie musi on wyglądać jak człowiek, mówi dr Ian Horswill, adiunkt informatyki na Northwestern University w Evanston, Ill.

"Można mieć systemy, które są inteligentne - przynajmniej o wiele bardziej inteligentne niż ołówki czy edytory tekstu - ale nie mają ... cech ludzkiego istnienia" - mówi doktor Horswill.

Nie ma powodu, na przykład, że robot na zakupy musi wyglądać jak twój wujek Chuck. Może to być krocząca kasa fiskalna - proste pudełko z ekranem, ramionami do zdejmowania pudełek z płatkami kukurydzianymi z półki i szufladą do przechowywania reszty. Ale nadal byłoby to "to", a nie "on" lub "ona", twierdzi Horswill.

"Mógłbyś zbudować maszynę z ciałem podobnym do Komandora Daty i dać jej emocje, a następnie usunąć jej mózg i umieścić go w robocie-koszmarze z szufladą na gotówkę i pozwolić mu komunikować się tylko w alfabecie Morse'a", mówi, "Moje przypuszczenie jest takie, że większość ludzi byłaby znacznie bardziej skłonna do wyłączenia robota-koszmaru niż Komandora Daty.