üç robot yasası

isaac asimov tarafından ortaya atılan kurmaca yasalar.

şu şekildedir:

1- bir robot bir insana zarar veremez veya pasif kalmak suretiyle bir insanın zarar görmesine izin veremez.
2- bir robot 1. yasayla çelişmediği sürece kendisine insanlar tarafından verilen emirlere itaat etmek zorundadır.
3- bir robot 1. ve 2. kurallarla çelişmediği sürece kendi varlığını korumak zorundadır.

hakkında yazılmış güzel bir yazı: kayiprihtim.com/dosya/3-rob...

robotların türümüze zarar verme ihtimalini ortadan kaldırmayı amaçlayan ilkeler.

isaac asimov tarafından sonradan sıfırıncı yasa eklenmiştir.
sıfırıncı yasa: bir robot insanlığa zarar veremez ya da zarar görmesine seyirci kalamaz.
birinci yasa: bir robot, sıfırıncı yasayla çelişmediği sürece bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
...

ben bireysel olarak da benim davranışlarımı yönlendiren ilkeler nedir, ideali ne olmalıdır diye düşünüyorum.

anayasa yapılırken sadece hukukçular değil analitik düşünen fen bilimciler de işin içine katılmalı.

robotlaırn insanlara zarar verebileceği düşüncesi robotik gelişmelere bakıldığında düşünülmesi gereken en son noktadır bana göre. neden derseniz bir robotların üretimi insandan kaynaklandığı için programlama yani kontrole sahipsinizdir. iki robotlarda beyin modelleri oluştururak aslında insan vücudunda ne olduğunu anlayabilme şansınız olur. hatta yaratıcılığın kaynak noktasını bile göstermekte faydası olabilir. herşeyi geçtim protez gibi konularda da büyük önem taşımakta. dolayısıyla ay robotlar dünyayı ele geçirecek kısmı bence düşünülmesi gereken en son nokta.

three laws of robotics. asimov's law diye de bilinir.

sonrasında sıfırıncı kanun da eklenmiştir.

"bir robot insanlığa zarar veremez veya eylemsiz kalarak insanlığın zarar görmesine göz yumamaz. "

amerikalı yazar isaac asimov'un , robotların gelecekte insanlara zarar vermesi ihtimaline karşılık belirlediği kanunlar. bu kanunlar özetle robotların insanlara zarar veremeyeceği, insanların sözünden çıkmayacakları ve bu 2 kurala bağlı kaldıkları sürece kendilerini korumakla mükellef oldukları kabulüne dayanır.

ilk bakışta bu kanunlar mantıklı gelse de birbirleriyle çelişebilecekleri için sorunludur. kanunların temeli, robotların "iyi niyetli" varlıklar olmasına dayanır. ancak iyi niyetli bir robot, insan ırkı kendi kendine zarar verecekse duruma el koyup gerekirse bazı insanları gözden çıkaracak şekilde davranabilir mi?

diyelim ki güç zehirlenmesi yaşayan bir grup var ve ellerinde de dünyayı ya da büyük kısmını yok edebilecek bir plazma silahı var. silahın yerini bu gruptan başkası bilmiyor ve insanlığı tehdit ediyorlar. bu durumda yapılması gereken tek şeyin bu insanları ortadan kaldırmak olduğunu düşünelim. burada bir düşünce deneyi yaptığımız için "hapse atsak olmuyor mu?" türünden fikirleri geçiyoruz. insanların iyiliğine hareket etmesi gereken robotlar, bu grubu öldürürse ilk kanunla, hatta belki biraz da ikinci kanunla çelişecekler. hiçbir şey yapmazlarsa üçüncü kanunla çelişecekler. şu halde bu kanunlar "iyi niyetli" bir yapay zekânın varlığı için yeterli mi?

yine burada devreye, bu makineleri insanların tasarladığı ve insanların da her zaman iyi niyetli olmadıkları gerçeği giriyor. dolayısıyla kötü niyetli bir grup "biz iyi niyetli yapay zekâlar tasarlıyoruz" dediğinde buna inanıp kontrolü onlara bırakmak, son derece korkunç bir neticeyi de beraberinde getirebilir.

çağımızın ve geleceğin en önemli teknolojik ve bilimsel alanlarından biri bu konu olduğu için, bu tür tartışmalar daha sık karşımıza çıkacağa benziyor ilerleyen dönemlerde.

türkan şoray kanunlarından hallicedir. ortada henüz düşündüğünü düşünebilen* bir yazılım dahi yokken yasası hakkında paragraf paragraf yorum yapmak da birazcık boş vakit ister. çözüm yeteneği logaritmik artan bir cihaz, onüçbin yıllık* insanın varlığını tehlikeli bulduğunda gerekeni yapmak isteyecektir. aynı doğrultuda, bu kadar akıllı bi tasarıma ihtiyacımız da yok. geleceğe dair tahminlerimiz en fazla birkaç on yıl kadar oluyor. büyüme hızımız o kadar hızlı ki yüz yıl sonrasını hayal edemiyoruz.

asimov i robot hikayesini yazdığında milenyum hakkında yapılan tahminler;

şu tahminlerin facia olmasının tek sebebi transistörler. ürettiğimiz en küçük teknolojik cihaz. adamlar transistör gibi bi icadı hayal edemediği için 2000li yıllar tahminleri çok uzak kalmış. geleceğe dönüş filmindeki uçan arabalara girmiyorum bile.

2080ler için tek sorunumuz robotların ahlakı mı? değil. asimov zamanında robot furyası hakkında hayal gücünü biraz fazla kullanmış(ki bu yasa dediği şey i robot hikayesinde geçiyordu ve yıl 90ların sonuydu). dönemin en iyi bilim kurgu ödülünü almış, şimdi ise muhtemelen bizim cüneyt arkın'ın uzay yolu filmiyle* dalga geçtiğimiz gibi dalga geçiyorlardır. zira insan evladının sorun çözme kabiliyeti çok hızlı. bu hızı da giderek artıyor.


yani eğer olur da ileride sorun çıkaran bi robot olursa, muhtemelen bu sorunu zannettiğimizden daha basic şekilde çözeceklerdir. robota, insana itaat etmesi gerektiğini empoze etmek tam da asimov'un yaşadığı yetmiş seksen yıl önceki zihinlere ait bi yanılsama.

pasif köleler zararsızdır dediğimizde inanmamıştınız. al n'oldu şimdi?

kendi bilincinin farkında olan bir yapay zeka için kanunlar yazmak ve bunların koşulsuz uygulanacağına inanmak en başından saçmalıktır.

yok diğer ihtimal, bu robotlar tamamen köle gibi olacak, hiç bilinçleri ve zekaları olmayacak, sadece çalışacaklar diyorsak da o zaman bu kanunları farklı koşullar için yorumlamalarını beklemek de pek anlamlı olmayacaktır. (bkz: tramvay ikilemi)

bu durumda ortada tek bir ihtimal kalıyor. bilincinin farkına varan ve insanlardan hız ve işlem kapasitesi bakımından çok daha üstün bir zekanın hayat bulaması ile bu zekanın insanları yok etmek için plan yapması ve bu planı gerçekleştirmesi, mümkün olan en kısa sürede tamamlanır.

yapay zekaya sahip robotların, animatrix'teki gibi yıllar boyunca insanlara köle gibi çalışacaklarını hiç sanmıyorum. hele ki internet gibi insanlığın tüm bilimsel birikimine ve askeri alt yapısına neredeyse anında erişebilecekleri bir haberleşme sistemine sahip olmalarının sonuçlarını hayal etmek çok zor değil.

insan bilmediği şeyden korkar.
robot dediğiniz şey, windows gibi bir yazılım ve birkaç yüz tane step motoru ndan oluşan demir yığını.

robotların duyguları olmadı. hicbir zaman da olamaz. olabilmesi için mekaniğin içine organik bileşikler girmesi lazım.

sıfıncı yasası olan üç yasadır.
sıfırıncı yasa beni biraz korkutuyor. zira hareketsiz kalarak da insanlığa zarar veremez der. azınlık raporu adlı kitapta bu yasanın distopik kurgularını içeren öyküler güzeldir.

ben robot adlı filmin açılışında anlatılan yasalardır. filmdeki tüm robotlarda bu yasalar mevcuttur ama bir yerden sonra bakıyorlar ki insanlar çeşitli nedenlerle birbirlerine zarar vermeye devam ediyorlar, sırf onları korumak için bu 3 yasanın kendilerine verdiği yetkiye dayanarak darbeye kalkışıyorlar. sonrasında 15 temmuz gibi insanlar sokaklara dökülüyor, robotlar ve insanlar arasında çatışmalar çıkıyor. geneli korumak için yapılan bu darbenin mantıksal tarafları olsa da kişisel hak ve hürriyetlere müdahale olacağından tabi kahramanımız ve yazılımında bu 3 yasaya uymayı reddeden casus robotumuz tüm sistemi yöneten merkezi kapatıp darbeyi durduruyor. aksiyonu güzeldi aslında, izlenebilir.