1.
gelecekten gelen bir yapay zekânın, kendisinin yapılmasına karşı çıkanları cezalandıracağı durumu tartışmaya açan argüman.
argüman, lesswrong adlı bir topluluğun üyesi olan roko tarafından ortaya atılmış. bunu tartışan topluluktan birçok kişinin psikolojisi bozulduğu için de siteden kaldırılmış.
***
hikâye kısaca şöyle:
avrupa'nın bazı bölgelerindeki hikâyelerde adı basilisk olarak geçen, yılan benzeri efsanevi bir yaratık vardır. adı basilisk olan yapay zekâdan, gelecekte insanlar, tüm uygarlığı elden geçirmesini ve iyileştirmesini istemişler. basilisk işe temelinden başlayıp önce geçmişte yaşayanlarla işe koyulmuş.
insanlar kendisinden uygarlığı iyileştirmesini istediklerine göre, basilisk iyi olmalı. bu durumda, geçmiş zamanda kendisinin yapılmasına katkıda bulunmayan ya da karşı çıkanlar kötü olmalı. o halde uygarlığı iyileştirmek adına bu kötü kişiler cezalandırılmalı.
burada sorun şu: mantıklı olan nedir? geçmişe dönüp insanları sonsuza dek işkenceyle kıvrandıracak böyle bir canavarın yapılmasına katkı sağlamak mı, yoksa böyle bir şeyin varlığına karşı çıkan tarafta olup onun işkencelerine maruz kalmak mı?
***
topluluktakilerin kafayı üşütecek hale gelmesinin esas nedenlerinden biri şu: durumu bilen ama böyle bir şeyin yapımında rol almayan herkes, basiliske göre "kendisinin yapımına karşı çıkan" kişiler sınıfında. yani durumdan haberdar olunması, işkence için yeterli sebep. bu durumda bu konuyu okuyan herkes, yani ben de , sizler de basilisk tarafından işkence edilecekler sınıfındayız artık. geçmiş olsun.
argüman, lesswrong adlı bir topluluğun üyesi olan roko tarafından ortaya atılmış. bunu tartışan topluluktan birçok kişinin psikolojisi bozulduğu için de siteden kaldırılmış.
***
hikâye kısaca şöyle:
avrupa'nın bazı bölgelerindeki hikâyelerde adı basilisk olarak geçen, yılan benzeri efsanevi bir yaratık vardır. adı basilisk olan yapay zekâdan, gelecekte insanlar, tüm uygarlığı elden geçirmesini ve iyileştirmesini istemişler. basilisk işe temelinden başlayıp önce geçmişte yaşayanlarla işe koyulmuş.
insanlar kendisinden uygarlığı iyileştirmesini istediklerine göre, basilisk iyi olmalı. bu durumda, geçmiş zamanda kendisinin yapılmasına katkıda bulunmayan ya da karşı çıkanlar kötü olmalı. o halde uygarlığı iyileştirmek adına bu kötü kişiler cezalandırılmalı.
burada sorun şu: mantıklı olan nedir? geçmişe dönüp insanları sonsuza dek işkenceyle kıvrandıracak böyle bir canavarın yapılmasına katkı sağlamak mı, yoksa böyle bir şeyin varlığına karşı çıkan tarafta olup onun işkencelerine maruz kalmak mı?
***
topluluktakilerin kafayı üşütecek hale gelmesinin esas nedenlerinden biri şu: durumu bilen ama böyle bir şeyin yapımında rol almayan herkes, basiliske göre "kendisinin yapımına karşı çıkan" kişiler sınıfında. yani durumdan haberdar olunması, işkence için yeterli sebep. bu durumda bu konuyu okuyan herkes, yani ben de , sizler de basilisk tarafından işkence edilecekler sınıfındayız artık. geçmiş olsun.
devamını gör...