Tænkende computere

Kunstig intelligens og tænkende computere skal blive hjemme. Jeg gider kraftædme ikke at min computer begynder at få rettigheder fordi den "også har følelser" :P

læste godt en artikel magen til for et par dage siden og må indrømme at det er guf for enhver sci-fi fan :)

#1: Det er da en holdning, der vil noget, ikke så meget pjat og væven rundt.

#2: Hvad angår sci-fi kom jeg til at tænke på en gammel sci-fi roman, der hedder "Colossus" af D. F. Jones, det er en fremragende historie om hvor galt det kan gå, hvis man omhyggeligt sørger for at man ikke kan slukke for computeren når man først har tændt den.

Jeg er ikke nervøs for maskinerne, jeg bliver først nervøs når jeg tænker på at det er mennesker, der programmerer dem.

Jeg ved ikke helt om jeg tror på at vi vil se artificial general intelligence i bedste Ben Goertzel stil i vores levetid, men skulle det ske, vil det ændre alt omkring os på måder vi ikke i vores vildeste fantasi kan forestille os nu.

De første par generationer vil blive designet af mennesker, men når de kommer op på vores niveau, vil de selv designe deres efterfølgere. Og i løbet af meget kort tid vil vi opleve en sand eksplosion af teknologisk udvikling direkte imod singulariteten, og ingen vil være i stand til at stoppe det. Ingen.

Selv hvis vores politikere var i stand til at fatte bare en brøkdel af hvilke fatale konsekvenser AGI vil få, så vil der aldrig blive enighed om at forbyde det på verdensplan. Og selvom en traktat skulle blive underskrevet, så kan vi være sikre på at der i USA's dark budget nok skal blive sat penge af til forskning i det, eller at andre i smug vil udvikle på det.

Forestil jer en intelligens der på alle måder overgår os mange millioner gange. Forestil jer så at en sådan maskine bliver sat til at forske i fx. nanoteknologi - den vil på kort tid kunne udtænke koncepter der ville tage os årtusinder at finde på!

Det eneste der kan stoppe udviklingen af en sådan maskine, er hvis man finder ud af at det ikke kan lade sig gøre rent teknisk. Heldigvis mener visse forskere at hver neuron i sig selv er en hel kvantecomputer, er det korrekt, vil det skubbe AGI langt ud efter vores levetid.

Er det så ikke noget for dig det her ?

http://www2000198.thinkquest.dk/intro/historie.html

#5 Nu er der altid én ting man kan gøre, som aldrig (af visse årsager) er med film. Hiv stikket ud. Jeg er sku ligeglad med hvor avanceret lortet er, en computer skal stadig have strøm :)

Og skulle der evt. være omstændigheder hvor dette ikke var en mulighed, så er det ikke noget en lille EMP ikke kan klare.

Reel AI, her tænker jeg (hehe) på en reelt tænkende og selvstændig maskine, kan aldrig, jeg gentager, aldrig forsvares etisk.
Jeg har svært ved at se hvor AI bidrage til menneskeheden, jeg tænker mere på Frankenstein.

Den sidste gale videnskabsmand/kvinde er ikke født endnu :-)

Hmmm, personligt er jeg nu langt mere imponeret over de nye kvantecomputere baseret på "almindelige" silicium-chips. Det bliver stort om nogle år....

#4 Tak for linket sv-erik

Det følgende er skrevet udfra en hypotese om at det er muligt at fremstille reel AGI.
Hvis noget er muligt, vil det i vid udstrækning blive gjort, hvad vores teknologisk gumpetunge politikere mener om den sag, er ligegyldigt, hvad Etisk Råd mener om sagen, er ligegyldigt, det vil sandsynligvis blive forbudt her i lille danmark (med 1 promille af verdens befolkning er vi jo også en magtfaktor, ikke??), men andre steder vil det blive udviklet, kontrolleret eller ukontrolleret.
Jeg håber at de der udvikler AGI sørger for at man kan slukke for skidtet, en EMP kan der skærmes for, så den kan man ikke satse på.
Hvad angår etisk forsvarlighed / gale videnskabsfolk, så er gale videnskabsfolk sjældent præget med moralske / etiske skrubler, så enten er man foran dem eller man halse efter dem og forsøger at rydde op, hvad der sjældent lykkedes særlig godt.
Maskiner er ikke onde, de er ikke gode, de er det vi gør dem til, så det hjælper ikke at lukke øjnene og lade som om problemet ikke eksisterer, "this could be heaven or this could be hell" afhængigt af hvordan vi bruger AGI og hvordan vi formulerer opgaverne, der er stor forskel på om man siger: "sørg for at planeten Jorden bliver et bæredygtigt system" eller: "sørg for at menneskeheden vil overleve på Jorden og gør samtidig Jorden til et så bæredygtigt system som muligt", i det første tilfælde vil AGI'en sansynligvis nå frem til at den største trussel mod Jorden som bæredygtigt system er menneskeheden!!

Om man så kan lave en AGI, der ikke har menneskets svagheder f. eks. magtbegær er en anden sag.