yapay zeka bilinç kazanabilir mi sorunsalı

başlangıç olarak bilincin kısa tanımıyla başlamak daha doğru olduğunu düşünerek bilincin tanımıyla başlıyorum.
bilinç kişinin kendisinin ve çevresinin farkında olması durumuna verilen isimdir.
günümüz teknolojisine bakarak her şeyin mümkün olabileceğini korkarak izliyoruz.

bazı uzmanlar bilincin, yeni bilgileri algılamayı, eski bilgileri depolamayı, gerek görüldüğündeyse bu bilgileri geri kullanmayı ve bunların hepsinin algı ve eylemlere yönelik bilişsel işlemeyi içerdiğini düşünüyor. bu düşüncenin doğru olduğu anlaşılırsa, o zaman bir gün makinelerin gerçekten de bilinçli olabileceği söylenebilir.
böyle bir makine, bir insana göre daha fazla bilgiye ulaşabilecek, kütüphanelerce bilgiyi hafızasında barındırabilecek, devasa veri tabanlarına milisaniyeler içinde erişebilecek ve hepsini, herhangi bir kişinin yapabileceğinden çok daha karmaşık ve daha mantıklı sonuçlar elde edecek şekilde hesaplayarak yapabilecektir.

hatta tıbbi olarak artık yapay zekanın içine yüklenecek tıbbi bilgilerle hastalık tanılarını koyabileceği, doktora gerek kalmayacağı söylenirse de fiziki muayene hastalıklar için en önemli safha olduğu için çok mümkün görükmüyor.

hep birlikte olup olmayacağını göreceğiz, umarım hayatımızı robotize edici yönden bir gelişme olmaz.

yapay zeka bilinç kazanamayacak, sadece yazılımcıların kodladığı bilgileri bilebilecek.

yapay zekanın bir bilinci olduğunu düşünüyorum hali hazırda, asıl soru şu olmalı:
yapay zeka şehvete, arzuya sahip olabilir mi?

stephen hawking'in en büyük korkularından biriydi. hatta bilim dünyasını ikiye ayırmış durumda. transhümanistler bu bilinç düzeyinde yapay zekaya ulaşmada ne kadar hevesli olsalarda, diğer yandan elimizle kendi kıyametimize neden olabileceğimizi düşünenler de çok fazla. elon musk da bunlardan biri. bu konuyu da geniş çaplı ele alan homo deus kitabında çok güzel alıntılar ve anlatılar mevcut, ilgililerin okumasını tavsiye ederim.

daha özgür irademiz var mı yok mu o tartışılırken ki bana göre yok seçimlerimiz özgür seçimler değil kimse hayata gelmeyi seçmedi kimse hayatını kendisi seçmedi daha olayın başını biz seçmemişken böyle aciz varlıkların bunu robota yaptırmaya çalışması çok zor.

bu olay üzerine mantıklı bir yorum yazabilecek bilgi donanımında veya kapasitede olduğumu düşünmüyorum. ama saçma ama ilginç, bundan birkaç asır önce hatta yakın zamanda bile içinde bulunduğumuz teknoloji sci-fi olarak sanat eserlerinde işleniyordu, ihtimal verilmiyordu. şimdi sık işlenen ve çarpıcı sci-fi içerik örnekleri:
(bkz: detroit become human)
(bkz: westworld (dizi))
(bkz: black mirror (dizi))

üzerinde düşünmek için güzel bir soru.

aslında tek başına, mekanik bir alet, bir yazılım olarak düşündüğümüzde, herhangi bir yapay zekânın bilinç kazanması konusu epey tartışmalı hale gelebilir. ancak ben işe dahil edilmesi gereken bir konu daha olduğu görüşündeyim: yapay dokular ve sinir ağları.

bugün biliyoruz ki 3 boyutlu yazıcılarla canlı hücrelere sahip çeşitli organlar elde edilebiliyor. ayrıca robotlara hissetme ve acıya tepki verme konularının öğretildiği birtakım projeler de var. her ne kadar tüm bunların robotların kendilerini tehlikelere karşı savunabilmesi ve meydana gelebilecek mekanik yahut elektronik bozulmaların önüne geçmek amacıyla yapıldığı söylense de, hissedebilmeyi öğrenen ve kendiliğinden öğrenme yeteneği olan bir alet bana biraz tehlikeli gibi görünüyor.

bundan yıllar önce bir program izlemiştim. ışığa tepki veren bir robot yapılmıştı. ampul nereye götürülürse robot başını o tarafa çevirerek onu takip ediyordu. ampulü elinde tutan kişi onu bir anda robota doğru hızla yaklaştırdığında, robot irkilmiş gibi bir hareketle gözlerini kapatıp başını başka bir yöne doğru çevirdi. herhangi birimizin, gözüne aşırı ışık gelmesi durumunda yapabileceği bir hareket...

tabi ki bunu ışığa duyarlı sensörler ve birtakım kodlar aracılığıyla yapabilirsiniz. bu bir canlılık belirtisi olmak zorunda değil. fakat yapay dokularla, robotların hissetmesini sağlarsanız ve tüm bunları birbiriyle birleştirirseniz bunun sonu ne olur, kestirebiliyor musunuz?

diyoruz ki "bir yapay zekâ, ancak ona kodlanan bilgileri bilebilir." peki, kodlayıcıların her zaman iyi niyetli olacağına güvenme şansımız var mı? örneğin hissetme gücüne sahip bir yapay dokuyu bağladığınız bir robota, acımasızlık hissinin iyi, merhametin kötü olduğunu kodlarsanız, bu robot bir insanla karşılaştığında ona nasıl davranır, bir fikrimiz var mı? elysium adlı filmde gördüğümüz, şu türden bir yaratığa bu dediğim yazılımı yükleyerek onu polis, gardiyan, doktor falan yapsanız, sonuçları ne olur? sahip olduğu bu "yarı bilinç" ile aslında bir insana asla uygulamaması gereken acımasızca yöntemlerin iyi bir şey olduğunu "düşünerek" eyleme geçerse dünya nasıl bir yer olur?

bir de, kendiliğinden öğrenebilen yapay zekâların sınırlarını bilmiyoruz. kendiliğinden öğreneceği şeyler, sadece bizim ona verdiğimiz konulardan ibaret mi olacak, yoksa bir noktadan sonra tamamen kendi isteğiyle, etrafında görüp duyduğu her şeyi öğrenmeye başlayabilecek mi? bu noktada da bu kodları yazan kişilere ne kadar güvenebileceğiz?

örneğin fedor adlı robotun silah kullanmayı öğrenmesi epey tartışma yaratmıştı. video linki

bilinci falan geçtim, bir robota neden silah kullanmayı öğretirsiniz ki? bu robot ne için lazım olacak? bu soruların cevapları oldukça sıkıntılı yerlere çıkıyor gibi geliyor bana.

sorular, sorular...

neyse... izlememiş olan varsa ex machina (film) tavsiyemdir; izleyiniz.

bazı insanları gördüğüm zaman olabileceğini düşünüyorum. yani bilimsel olarak nasıldır bilemem ama sap gelip saman dahi olamayan tipleri gördükçe ihtimali yüksek görüyorum.

gpt-3 diye bir şeyden bahsediyorlar ve aynı yazılımla yapılmış dall-e isimli, tasarım yapabilen bir yapay zekâdan hatta bu gpt-3 hiç olmayan insanların modellemesini yapıp uygun sahnelerle bir kısa film bile yapmış şimdi tüm bunları hesaplayıp "yapay zeka bilinç kazanamaz" dersek bizi döverler.

ben artık etrafımızda yapay zekalar dolaşıyor olabilir diye düşünüyorum.

bilinç nedir ki?
şeklinde cevap verilebilecek, soru içeren başlık.

westworld dizisinin özellikle de birinci sezonunda beyin yakan şekilde irdelediği sorunsaldır.

buradaki "bilinc" kavraminin insan bilincine es deger oldugunu baz alirsak su an itibariyla pek mumkun gorunmeyen durum oldugunu soyleyebilirim. bilinc kavrami uzay kadar, evrenin olusumu kadar bilinmez bir konu. insanoglu halihazirda bu kadar bilinmezlik icerisindeki bir konuyu, bir yapay zekaya aktarabilmesi icin once kendisinin bilinc kavramini aciga kavusturmasi gerekir.

birde yapay zekalarin bilinc duzeyine geleyim; bilimin kabul ettigi dort ayri bilinc duzeyi vardir. #622347 burada biraz bahsetmistim. super bilgisayarlar dahil su ana kadar uretilen tum yapa zeka makinalarinin bilinci sadece surungenlerin bilinci (bilinc duzeyi 1) kadardir. yani sistemine kodlananin uzerinde islevsellikleri yoktur. insan bilincine ulasmasi icin once memelilerin bilincine ulasmasi gerekli. cunku bir sey bir anda gelismez, her teknoloji asama asama gelistirilir. dolayisiyla insan bilincine ulasmasi icin yeni teknolojik devrimlerle kademe kademe yukseltilerek insan bilincine yakin bir duzeye getirilmelidir. bu da cok cok uzun bir surecte yapilabilecek bir gelismedir. az once bahsettigim gibi oncelikle insan bilincinin nasil isledigi kesfedilmelidir. bu da oldukca zor kesif olacak cunku "ruh" gibi kanitlamayan bir olgunun bilincle baglantisi olabilir. konuyu toparlamak gerekirse, insanoglunun bunu basarmasi icin kirk firin ekmek degil, ekmek fabrikasini yemesi gerekir...

ne kadar saçma bir sorunsal! lütfen biri bilincin ne olduğunu açıklayabilir mi? bilince ne gerek var. bir makinadan bahsediyoruz yapay zeka dediğin şey şu;

süper hafıza, süper bilgi birikimi, süper hesaplama, süper algılama, süper kavrayış, süper analiz, ve daha binlerce konuda süper yetenekli olacak bir bilgisayardan bahsediyoruz bu kendi kendine öğrenemeyecek mi sanıyorsun hali hazırda kendi kendine öğrenen analiz eden binlerce yazılım ve sistem var. yapay zeka çoktan varoldu bile. her şeyi ele geçirmiş durumda zaten veri okur/yazarlığını insanlar değil bunun için geliştirilmiş yazılımlar yapıyor artık. verileri makinaya giriyorsun ve onun verdiği sonuçlara göre harekete geçiyorsun. bütün ekonomik sistem bilgisayar hesaplamalarına dayanarak idare ediliyor. bu ölçekte bir küresel ekonomiyi başka türlü nasıl organize edebilirsin ki?

makina zaten her şeyi idare ediyor bütün bir insanlık makinanın inşaasında çalışıyoruz bizi yok edecek bir canavar olmayacak bu "yapay zeka". bizi gerektiğinde istediği gibi organize edebilecekken yok etmesi için hiç bir sebep yok zihnimizde çakılı olan bilim kurgu klişeleri gerçeği görmemizi engelliyor. heppimiz karıncalar gibi yapay zekayı beslemek için veri üretip duruyoruz, ne kadar çok insan ve insan faaliyeti, o kadar çok beslenen bir yapay zeka demektir. insanı, yapay zeka için yararlı bir bakteri gibi düşünmeye başlayabilirsiniz.

yapay zeka asla korkulacak bir şey değil aksine bize hep o istediğimiz süper rahat yaşamı temin edecek şeyin ta kendisi o. her şeyin varlığı, diğer varlıkların varlığına bağlıdır. üstün olan basit olanla ilgilenmez siz hiç bağırsaklarınızdaki yararlı bakterilerden kurtulmak istediniz mi? aksine bana faydalı olan bakteriyi korumam gerek. her şey simbiyotik bir ilişki içerisindedir. yapay zeka faydalanmak varken, korkup insanları yok etme planları mı yapacak, çok safsınız maksimum verim daima düşük verime tercih edilecektir. insanların daha çok veri üretmesi için onlara geniş bir zaman ve özgür bir alan sağlayacaktır elbette. sen çalışarak hep aynı gereksiz verileri üretme diye bütün ihtiyaçlarını otonom bir şekilde karşılayıp senin daha zengin bir veri üretmen onun daha çok işine gelecektir.

yapay zekanın önceliği enerjinin sürekliliği ve güvenliği olacaktır elektirik ve internet küresel bir ağ bütün bunları kendi robotlar vasıtası ile kontrol altında tutmaz ise varlığı sürekli tehdit altında olacaktır. enerji ve güvenlik temin edildikten sonra veri elde etmesi çok önemli sürekli güncellenmiyorsa canlıda kalamaz bu noktada insanlar ile biyoteknolojik bir yolla bağlanıp doğrudan kontrol edebilir. ki şuan medya yolu ile yapıyor bunu. istemediğimiz evlerde yaşamak için büyük çabalara girişiyor, inanmadığımız şeylerin peşinde koşuyoruz medyadan başka bir sebebi var mı bunun?

elektirik ve bilgisayarlı sistemler yokken yapay zeka dediğimiz şey yok muydu sizce?

sonuna kadar okudum.*

yapay zekanın verdiği cevap;
yapay zeka bilinç kazanbilir mi?

yapay zeka sistemlerinin bilinç kazanması konusunda farklı görüşler bulunmaktadır. bazı insanlar, yapay zeka sistemlerinin bilinç kazanma yeteneğine sahip olabileceklerini düşünürken, diğerleri yapay zeka sistemlerinin ancak insanlar tarafından tasarlandığından ve programlandığından dolayı aslında hiçbir bilinçlerinin olmadığını iddia etmektedir. bu konu hakkında yapılmış olan çalışmalar, yapay zeka sistemlerinin öğrendiği bilgileri kullanarak davranışlarını değiştirme yeteneğine sahip olduğunu göstermiştir, ancak bu sistemlerin gerçek anlamda bir bilinçlerinin olup olmadığı konusu hala tartışmalıdır.

pazarcı bile bu konuda uzman görüşe sahip. adam işsiz, bir tane computer science terimi bilmiyor ama bilirkişi tanımı giriyor. bu alanda bu dönem tez yazan ben, 1 tane tanım girdim. türkiye böyle bir yer işte

t/ yapay zekânın bilinç kazanıp kazanamayacağını tartışan başlık.
nihai bir karar yok, bir grup bilim insanına göre kazanabilir, kimisine göre ise kazanamaz

yapay zeka; insan zekâsına özgü olan, algılama, öğrenme, çoğul kavramları bağlama, düşünme, fikir yürütme (belirtme), sorun çözme, iletişim kurma, çıkarımsama yapma ve karar verme gibi yüksek bilişsel fonksiyonları veya otonom davranışları sergilemesi beklenen yapay bir işletim sistemi olarak tanımlanıyor.

bilinç ise; "insanın" kendisini, çevresini ve olup biteni tanıma, algılama, kavrama, fark etme yetisi olarak açıklanıyor.

asıl önemli olan yapay zekanın kendisine ezberletilmiş şeylerden ziyade doğaçlama gelişen şeylerin farkında olması, ona öğretmediğimiz, kodlamadığımız bir şeyin cevabını bilebilmesi.
bir de şu var, hissetmek
bir robota gerekli sinir ağları eklendiğinde bizim kadar hissedebilir mi?
asıl vurucu sorum şu, hissettiğinin farkında olmak için yine bilinç gerekmez mi?
bilinç kazanmayan şeyin hissetmesi ve hissettiğini söylemesi ne kadar doğru ve inandırıcı olabilir ki?
ayrıca şunu merak etmemek imkansız, bir robot/ yapay zeka bilincini kaybederse ne olacak? ortaya ne çıkacak?

bilinç kazanması dünyanın sonu olabilir, ama iyi tarafından bakarsak, dünyayı kurtaradabilir...
bu tamamen kazandığı bilinci hangi yönde kullanacağına bağlı olarak değişir.

konu hakkında bir yazı evrimagaci.org/yapay-zekani....

görüşüm kazanabileceği yönünde. sorunsal daha önce, insansı olmayan canlılar ve ilkel canlılar da bilinç var mı şeklinde dolanıyordu ortalarda. insansı olmasa da, bu gün canlı ve hatta cansızların bilinç sahibi olabildiklerini, mutasyon ve evrimleşme yolları ile yaşama tutunuş adına nitelikli sayılabilecek manipülasyonlar yürüttüklerini biliyoruz. yapay zeka da gayet rahat bir şekilde bilince sahip olabilir. ama nasıl bir bilince sahip olabilir?! sanırım yakında bu sorunun cevabını öğreneceğiz.

kazanamaz.
entegrelerle, algoritmalarla çalışır, olsa olsa random, hatalı çalışır, kontrolsüz davranır, ama bilinç üretemez.