Portret podwójny Donalda Knutha
Ok, nie jest to idealny portret Donalda Knutha, ale przynajmniej „handmade” ;). Zawsze jeżeli mam jakiś problem związany z komputerami sprawdzam co na ten temat powiedział Donald Knuth. Okazuje się że zabrał głos także na temat AI i to w typowy dla siebie sposób. Co przez to rozumiem? To że jego rozumowanie jest zawsze bez zarzutu i niemal zawsze jego teksty zawierają coś, na co nikt inny nie zwraca uwagi. Oczywiście Donald Knuth jest tylko człowiekiem i też robi błędy, ale potrafi pisać programy komputerowe i teksty, które są niemal całkowicie ich pozbawione.
7 kwietnia 2023 Donald Knuth postanowił wypróbować działanie Chata GPT. Zadał mu dwadzieścia pytań i opisał swoje wrażenia w mailu do Stephena Woframa, który jest dostępny tutaj. Konkluzja jego maila była następująca:
Well this has been interesting indeed. Studying the task of
how to fake it certainly leads to insightful subproblems galore.
As well as fun conversations during meals.On the other hand, Gary Marcus's column in the April CACM
brilliantly describes the terrifying consequences of these
developments.I find it fascinating that novelists galore have written for decades
about scenarios that might occur after a "singularity" in which
superintelligent machines exist. But as far as I know, not a single
novelist has realized that such a singularity would almost surely
be preceded by a world in which machines are 0.01% intelligent
(say), and in which millions of real people would be able to interact
with them freely at essentially no cost.I myself shall certainly continue to leave such research to others,
and to devote my time to developing concepts that are authentic
and trustworthy. And I hope you do the same.
Cóż, to rzeczywiście było interesujące. Badanie zadania,
jak to [czyli inteligencję (helcim)]sfingować, z pewnością prowadzi do mnóstwa wnikliwych podproblemów.
A także do zabawnych rozmów przy posiłkach.Z drugiej strony, felieton Gary'ego Marcusa w kwietniowym wydaniu CACM
w znakomity sposób opisuje przerażające konsekwencje tych
wydarzeń.Uważam za fascynujące, że wielu powieściopisarzy od dziesięcioleci pisze
o scenariuszach, które mogą się wydarzyć po „osobliwości”, w której
istnieją superinteligentne maszyny. Ale o ile wiem, żaden
powieściopisarz nie zdał sobie sprawy, że taką osobliwość niemal na pewno
poprzedziłby świat, w którym maszyny będą miały inteligencję na poziomie 0,01%
(powiedzmy), a miliony prawdziwych ludzi będą mogły swobodnie
z nimi wchodzić w interakcje, praktycznie bez żadnych kosztów.Ja sam z pewnością będę nadal pozostawiał takie badania innym,
a swój czas poświęcał na rozwijanie koncepcji, które są autentyczne
i godne zaufania. I mam nadzieję, że zrobisz to samo.
