Kötüler hüküm sürdüğünde, halk inim inim inler.
Öngörünün olmadığı yerde insanlar helak olur. …
Özdeyişler Kitabı 29:2 ve 18 (MÖ 700’den önce yazılmıştır)
Sınıfları ve sınıf uzlaşmazlıklarını barındıran eski burjuva toplumunun yerine, her bireyin özgür gelişiminin herkesin özgür gelişiminin koşulu olduğu bir birlik kuracağız.
Karl Marx, Komünist Manifesto (1848)
Bu çalışmada dipnot ya da atıfta bulunulan eserlerin sayfa numaralarını kullanmamaya karar verdim. Büyük ölçüde platformlaştırmanın etkisi ve aşırı üretim nedeniyle yapay zeka kaynaklı yayınların katlanarak artması, yalnızca geçici heveslere ve okuyucu ilgisinin azalmasına yol açmakla kalmıyor, aynı zamanda bunların kullanım tarzında da değişiklikleri zorunlu kılıyor. Yapay zeka ile ilgili yüz binlerce makaleden makul ölçüde tam bir ‘kapsama’ elde etmek mümkün değildir. Gerçekten incelemek isteyenler için alıntıların bulunduğu sayfalar kolaylıkla bulunabilir. Ben sadece erişilebilir ve en yararlı bulduğum öğelerin çok kısmî bir listesini sunuyorum; akademik anlamda ‘kapsama’ iddiam yok. Başka dillerden yapılan çevirilerde çevirmen adı belirtilmemişse çeviriler bana aittir.
Burada (kronolojik sırayla) Hito Steyerl’in çalışmalarına ve eleştirilerine, Fransız Terra-HN sitesine ve Patricia MacManus, Ginevra Petroni ve Lazar Atanaskov’un eleştirel yorumlarına çok şey borçluyum.
***
Giriş
Korkarım ki Yapay Zeka’nın gücü (bundan sonra YZ olarak anılacaktır) milyonlarca insanın fiziksel ölümünde ya da derin yaralar almasında (en açık örnek için savaşla ilgili aşağıdaki 3. Bölüme bakınız) ve eğitim de dahil olmak üzere tüm kamusal yaşamımızın muazzam bir şekilde aptallaştırılmasında kilit bir araç olacaktır. YZ, Gary Marcus’un da belirttiği gibi, hala önemli sorunları olmasına rağmen, akıl almaz bir şekilde abartılmaktadır; ancak askeri, siyasi ve ekonomik baskılar ve gözetim kapsamında olası büyük çaplı kullanımı büyük bir tehlike olabilir. YZ’nin devasa potansiyeli doğa bilimleri gibi halihazırda normatif olan alanlarda faydalı olabilir, ancak bizi kurtaracak ya da lanetleyecek üstün bir makine zekası gibi aptalca bir anlamda olmasa da, tüm tarih ve kültür anlayışının çöküşüne de yol açabilir.
Ben bir yapay zeka uzmanı değilim ve bu konuda çığ gibi büyüyen olgular ve yazılar arasında mecburi bir yürüyüş yapmak zorunda kaldım. Belirsiz de olsa gerçek olan bu yeni çağın ne hayranıyım ne de düşmanı; ben ‘gelecek dev kütlenin’ (Shakespeare) çerçevesini anlayabildiğim kadar anlayan endişeli bir vatandaş ve sakiniyim. Bununla birlikte, özellikle itaatkâr medyada, üzerimize çöken YZ’ye ilişkin bağlam eksikliğine sıkça rastlamak beni şaşırttı. YZ’ye yaklaşımın bazı temel tarihsel, toplumsal, kültürel ve politik bağlamları ve sonuçları hakkında konuşmayı amaçlıyorum.
Yapay Zekaya Giden Yol
YZ’nin ortaya çıkışının 2022-24’ün iki ya da üç büyük olayından biri olduğuna dair çok az şüphe var; bu olay sadece bölgesel önemi aşan sıcak savaşların ortaya çıkışı ve kapitalist iklim yıkımıyla yüzleşmeyi reddedip kârlı finansmanı büyük çaplı yeniden silahlanmaya yönlendirmekle kıyaslanabilir. Yapay zeka araştırmalarına yüz milyarlarca Amerikan doları akıtıldı: 2023’te, ‘üretken yapay zeka’ için ayrılan fon 2022’ye göre yaklaşık sekiz kat artarak 25,2 milyar dolara ulaştı. ‘Yapay zeka’ günlük insan ilişkilerinde, örneğin tüm e-postalarımızda zaten mevcut ve önümüzdeki yıllarda şüphesiz artış gösterecek. Yine de 2023’ten Ipsos ve Pew verileri, katılımcıların %52’sinin hem yapay zeka ürün ve hizmetlerine karşı kaygılı olduğunu hem de yapay zeka konusunda heyecanlı olmaktan çok endişeli olduğunu gösterdi. Peki, YZ’nin belirleyici bağlamı nedir?
İçinde yaşadığımız dünya – “Kelimeler ve Lezyonlar”da (Words and Lesions) belirttiğim gibi – egemen sınıfların kendi çıkarları doğrultusunda başlattığı tepeden inme olaylar ve milyarlarca insanın süregelen şiddetli lezyonları tarafından belirlenmektedir. Bunlar, yeni hegemonyanın milliyetçiliğe, ırkçılığa ve nihayetinde faşizme kolayca kanalize olan bilişsel bozulma ile kısır bir geri besleme içinde işlev görmektedir. Oxfam 2023’te, önceki üç yıl içinde dünyanın en zengin beş adamının servetlerini ikiye katladığını bildirdi. Aynı dönemde, dünya genelinde neredeyse beş milyar insan daha da yoksullaştı: günlük gerçekliklerini geçim sıkıntısı ve açlık belirliyor. Küresel şirket ve tekel gücünün muazzam yoğunlaşması, işçileri sıkıştırarak, vergilerden kaçarak, devletin tüm kademelerini özelleştirerek ve akılsızca iklim çöküşünü körükleyerek bizi etkisi altına aldı. 2023’e gelindiğinde dünya genelinde hisse senedi piyasalarına yatırılan sermayenin %80’i hisse senedi sahiplerinin %2’si tarafından kontrol ediliyordu. Açıkça görüldüğü üzere, büyük balıklar küçük balıkları yemiş ve giderek daha kontrol edilemez köpekbalıkları haline gelmiştir. Hem ekonomik bir güç hem de devlet gücünü kontrol eden Siyam ikizidirler ve yeni bir rant ya da kast sistemine doğru yol almaktadırlar. Şiddetin kaçınılmaz mantığı gereği, sıcak bir dünya savaşı yaklaşırken, ekonomik merkezileşme daha fazla siyasi ve askeri merkezileşme ile güvence altına alınmalıdır.
‘Küreselleşme’ devrinde, diyelim ki 1973-2008, fiziksel metaların üretimi ve işgücünün sömürüsü sıçramalar ve engellerle büyüdü. Psikofiziksel olarak bölük pörçük olmuş işçiler, batıyor olmanın sinirini taşıyan küçük burjuvaziyle birlikte, mümkün olduğunca ‘yumuşak’ bir diktatörlük uygulayan – ancak Pinochet’den Putin ve Trump’a kadar gerektiğinde çok sertleşebilen – aşırı sağcı örgütlerin işbirliği yaptığı ana güç haline geldi. Yeni üst sınıf diktatörlüğünün kültürel ve son derece politik yönü, sahte ihtiyaçların ve tüketimin karşı konulmaz bir şekilde üretilmesiyle zihinlerin sömürgeleştirilmesi, kullanım değeri düşük meta fetişizminin bitmek bilmeyen bir şekilde tanrılaştırılması ve yabancıya karşı nefret ideolojileridir. ‘Bu durum milyarlarca insanın tanınmaz hale gelmesine yol açmakta, çoğu zaman akılsızca (bunakça) tepkilere itilmekte ve yönlendirilmektedir. Agresif yeniden yerliyurtlulaştırma…. yersizyurtsuzlaştırmanın baş döndürücü ve kaotik dönüşüne karşı umutsuzca tepki verir’ (Berardi Bifo, Breathing). AB bankalarının Yunanistan’da Syriza’yı ezmesinden Birleşik Krallık İşçi Partisi’nde Corbyn’in koltuğundan indirilmesine kadar Sol’un adalet fikirlerinin titizlikle dışlanmasında bu süreç iş başındadır.
Burada işleyen daha derin bir süreç, sermayenin bileşiminin giderek daha fazla bilişsel ve semiyotik emeğe dayanmasıdır. Bilişsel işçiler, farklı türden mündemiç ya da yüzer-gezer entelektüeller, 19. yüzyılın sonundan itibaren sermaye birikiminde itici bir işleve sahipti. Ancak, 1917 Rus Devrimi’nin ve onu izleyen devrimlerin bastırılması ve ardından geriletilmesinden sonra, bu ‘bilişsel proletarya’ (Berardi Bifo, Ultimi) çoğunlukla kendi çıkarı ve genel insani çıkarlar için örgütlenmede başarısız olmuştur. Bu emekçiler, savunmacı sendikacılığın bile tam bir yenilgiye uğradığı, kamusal alanın -örneğin sağlık hizmetlerinin- özelleştirildiği ve hiçbir varlık garantisi olmayan güvencesiz çalışmanın arsızca yaygınlaştığı bir dönemde büyüdüler. Çalışmaya devam etmenin bir yolu, kitleleri cahil tutmak için yeniliği yeni bir Latince ile birleştirmekti.
YZ’ye doğru atılan önemli, hatta kalıtımsal bir adım da internetin Web 2.0’a (2003 yılında icat edilen bir terim) doğru gelişmesiydi. Web 2.0, bloglar, forumlar, chat’ler ve Wikipedia, YouTube, Facebook, Gmail, WordPress, Tripadvisor ve benzeri ajanslar gibi yüksek düzeyde site-kullanıcı etkileşimine izin veren uygulamalarla karakterize edilen bir sistem anlamına gelmektedir. Kullanıcının sadece sayfalar arasında gezinebildiği, e-posta ve arama motorlarından yararlanabildiği 1990’lara kadarki statik internete nazaran ortaya çıkan yeni kişisel ve demokratik ifade potansiyellerine sempati duyuyorum. Buradaki ana dönüşüm iki yönlüdür. Sadece veri hacmi, çeşitliliği ve üretim hızı artmakla kalmadı, aynı zamanda açıkça sansürlenmedikçe (ordu için yapılan çalışmalarda olduğu gibi) bilgisayarı olan herkes için daha erişilebilir hale geldi. Web 2.0 kullanıcıları aynı zamanda hem mesaj gönderici hem de alıcı olarak işlev görerek yüz yüze diyaloğa benzer bir toplumsal anlam inşasına yaklaştılar. Kullanıcıların potansiyel bir demokrasisi vardı ve hala da var; bu kısmen Wikipedia’nın kolektif projeleri, imza kampanyaları ve viral hashtag’ler ya da şu anda platformlarda bulunan milyonlarca ücretsiz müzik parçası tarafından temsil ediliyor. Ayrıca sözel işaretlerden emojiler, GIF’ler, fotoğraflar, karikatürler, filmler, müzik, sesler ve renkler gibi çok boyutlu göstergelere geçiş de potansiyel olarak zenginleştirici olmuştur.
Bununla birlikte, olası bir bilişsel ve sanatsever demokrasi, Google’ın en önemli örneğini teşkil edebileceği finansallaşmanın hegemonyasına dayanan yeni bekçiler tarafından baltalandı; bunun psikolojik eşlikçisi ve karşıtı ise bilgi-eğlence, yalnızca ben diyen küçük gösterişçilik ve grup nefreti. Yükselen burjuva sınıfı bünyesinde adil ve net, çoğu zaman sivri tartışmalardan, çoğunlukla şaşırtma ve genellikle yoksul ve güçsüzlerin ayrımcılığa uğratılması ve ayrıştırılması için kullanılan kapitalosen ‘iletişim’e doğru korkunç bir yozlaşma söz konusudur. Dijital iletişimde kullanılan örgütsel biçimler – sosyal medya platformları, mesajlaşma uygulamaları, video konferans araçları vb. – düşüncenin ani etkileşime feda edildiği kısa tepkiler (beğeniler, emojiler) şeklinde aptalca bir özensizliğe yönelmiştir. Örneğin, Facebook yalnızca patron-sahiplerinin ve algoritmalarının çoğunluğun gerçek zevk, görüş ve değerleri olduğunu tahmin ettiği şeylere karşılık gelen ‘bilgi’ sağlıyordu. Bu durum, teyit eksikliğini kurumsallaştıran kapalı bir alan yarattı; aynı zamanda günümüzdeki ‘sahte haber’ furyasına ve kullanıcılar arasında histeri ve psişik lezyonlara yol açtı. İnternet işleri günümüzde ağırlıklı olarak ABD (Facebook, Instagram, Messenger, Twitch, Linkedln…) veya Çin (TikTok, WeChat…) olmak üzere devasa kapitalist dijital platformlarda yapılmaktadır. İnandırıcılığı kontrol edilebilen aleni ideolojiler, yerlerini platformların mimarisine yerleştirilmiş, stratejik çeşitliliği dışlayan ve histerik kişisel güç olumlamasının yanı sıra büyük şirketlerin ve devletlerin egemen çıkarlarına uygunluğu teşvik eden, genellikle saldırgan ve acımasız sözde diyaloglarla propaganda sistemlerine bıraktı (bkz. Chun).
Bu nedenle, kontrol edilebilir küçük bilgi kırıntılarının yanı sıra, Web 2.0 ve ‘sosyal medyanın’ büyük kısmı çoğu zaman insanları taciz etmek ve medyaya spam doldurmak için kullanılmaktadır: bilgilendirmekten ziyade biçimlendirme. Çürüyen kapitalizmin bilgi küresi aynı zamanda pek çok kişinin özel hayatına skandal niteliğinde müdahalelere ve kendini medya demagogu ilan eden yeni bir gücün yükselişine yol açmıştır. Botlardan, tevatürden ve trollerden oluşan kampanyalar artık zengin ve güçlü sınıflardan oluşan küçük gruplar tarafından koordine edilebilmekte ve geniş çaplı bir uzlaşı yanılsaması yaratabilmektedir. Bazı egemen güçler muhalifleri susturmak, resmi devlet mesajlarını yaymak ve seçimlerde oyları etkilemek için siyasi botları kullanırken, hepsi de eleştirenleri karalıyor. Yeni ‘normallik’ büyük ölçüde manipülatif ve ayrımcı hale geldi (bkz. Baudot; Woolley ve Howard). Google benim internet aramalarımı, e-postalarımı ve konumumu izlediğinde, neye para ödemeye razı edilebileceğim konusunda daha iyi tahminlerde bulunabiliyor. Ancak, borsada büyük bir oyuncu olarak, benden ya da istihbarat kurumlarının takibinden uzak bir veri paylaşım anlaşmasına varabilecek federatif, kamu tarafından işletilen bir dizi hizmetten oldukça farklı amaçlara sahip olacaktır. Devletlerde ve şirketlerde siyasetin ve ekonominin merkezileşmesinin yükselişine oldukça benzer şekilde, Amazon ve Twitter gibi devasa uluslararası web şirketlerinin yükselişi de yeni düzenlemeler ve sansür anlamına geliyordu. Kullanımının Web 3.0’ın habercisi olduğu sıkça söylenen yapay zekanın ortaya çıkışı, şimdiki evreyi simgelemektedir.
Hito Steyerl, tüm bu kullanımların ‘kullanıcıların sadece iş yapabilmek için değil, kendi emeklerinin araçlarına ve sonuçlarına erişebilmek için bile sürekli olarak bir bulut sistemine kira ödemek zorunda kaldıkları silo halindeki bir üretim ortamını normalleştirdiğine’ işaret ediyor. Ve Dwayne Monroe’nun bu oligopolü (aynı zamanda ideolojik olarak kapalı bir tekel), dijital şirketlerin kullanıcıların verilerini özelleştirdiği ve ürünleri onlara geri sattığı bir ‘süper rantiye yapı’ olarak adlandırdığını aktarıyor: “Teknoloji endüstrisi çeşitli müşterekleri ele geçirdi ve sonra da herkese açık olması gereken şeylere erişimi bize kiraladı” (‘Mean Images’). Başka bir deyişle: kişisel bilgisayarların içeriği artık olduğu gibi peşinen ele geçirilmiştir ve Microsoft kullanmayı bırakırsanız, (bırakmadan önce kopyalanmadığı sürece) yalnızca ödeme karşılığında yazar tarafından erişilebilir olacaktır – yeni bir borç köleliği tehdidiyle platform rantiyeci feodalizminin kaba bir biçimi. Steyerl bu nedenle şimdi değineceğim Büyük Veri ve ‘ham’ yapay zekanın yeni egemenliğinden bahsediyor.
Yapay Zekayı Nasıl Kullan(ma)malı: ‘Ham Yapay Zeka’
2.1. Karl Marx makineyi “artı-değer üretme aracı” olarak tanımlamış ve daha Komünist Manifesto’da kapitalistlerin yoğun makine kullanımının işçiyi “makinenin bir eklentisi” haline getirdiğini öngörülü bir şekilde gözlemlemiştir; makine üretimini güneşin altında yeni bir şey olarak izlemeye devam etmiştir. 1858’de yazdığı Notebook VII ‘de, ‘doğrudan emeğin ve miktarının, üretimin -kullanım değerlerinin yaratılmasının- belirleyici ilkesi olmaktan çıktığı ve bir yanda genel bilimsel emeğe, doğa bilimlerinin teknolojik uygulamasına, diğer yanda toplam üretimde toplumsal birleşmeden [Gliederung] doğan genel üretici güce kıyasla hem niceliksel olarak daha küçük bir orana, hem de niteliksel olarak vazgeçilmez ama ikincil bir momente indirgendiği’ yargısına vardı. İyimser bir şekilde, bu devasa yeni üretici güçlerin insan emeğinin sömürülmesinin (ve genel olarak sınıflı toplumun) artık kaçınılmaz olmadığı anlamına geldiği sonucuna vardı.
Sibernetiğin büyük öncüsü Norbert Wiener’in de uyarmış olduğu gibi, her türlü iyimserliğin tersine, ‘makine ve insanın ortak bir girişim içinde aynı anda hareket etmesinden kaynaklanan’ sorunlar vardır; bunlar hem zaman ufuklarını (insanlar daha yavaş çalışır) hem de hesap verebilirliği (daha az güvenli sistemlerin yaratılması) içerir. Daha karmaşık makineler ‘tasarımcılarının bazı sınırlamalarını aşabilir ve aşmaktadır ve bunu yaparken daha etkili ve tehlikeli olabilirler’ (‘Some Moral and Technical Consequences of Automation’). Bu sorunları ahlaki olarak nitelendirmiştir, ancak bunlar hem pragmatik hem de epistemolojiktir: ‘Otomizasyona yönelik bir programlama tekniğinin sonucu, makinenin sonuçlara ulaştığı aşamaların birçoğunun ve birçok işleminin gerçek taktiksel niyetlerinin ne olabileceğinin tasarımcının ve operatörün zihninden, etkili bir şekilde anlaşılmasının çıkarılmasıdır’ (ibidem; ayrıca bkz. ‘Men, Machines, and the World About’).
Bu sorun YZ içinde giderek daha ciddi ve belirleyici bir hal almaktadır. Stratejik biriminin kullanımını ele alarak başlayayım: algoritmalar.
Dijital programlamada algoritma, bir görevin sıralı adımlar veya talimatlar dizisi aracılığıyla gerçekleştirileceği veri ve hesaplama yapıları üzerinde çalışan yöntemin tanımı olarak açıklanmıştır. Bu gibi kodlamanın sonucunda, katlanarak büyüyen dijital veriler işlenir, sınıflandırılır ve analiz edilir. Bir algoritma, belirli bir makine mimarisinde belirli bir programlama dilindeki düzenlemesinden bağımsız olarak otonom bir varlığa sahiptir. Doğal dildeki basit kurallardan her türlü değişkeni içeren en karmaşık matematiksel formüllere kadar farklı karmaşıklıklarda olabilir (bu tanımı Goffey ve Terranova’dan uyarladım). Algoritmalar, siyaset ve ekonomideki istatistiksel olarak baskın kavrayış ve davranış kalıplarını yeniden üreterek çalışır.
Buradaki iki temel sorun, önceki yazarların istimlak edilmesi ve algoritmaları yapılandırma kriterleridir. İstimlak konusunda, yapay zeka sohbet robotları yanlış bilgi vermeye ve atıfta bulunmamaya yatkındır. Bu nedenle, Microsoft’un parası ve bilgi işlem gücüyle desteklenen OpenAI, sohbet robotlarını eğitmek için orijinal yazarların izni veya telif hakkı olmaksızın yazılmış yazıları aldığı için dava ediliyor. Diğer pek çok şirkete de yazarlar, görsel sanatçılar, müzik yapımcıları ve ‘üretken’ (?) YZ şirketlerinin gasptan kazanç sağladığını düşünen diğer içerik oluşturucular tarafından dava açılmıştır (bkz. O’Brien). Marx’ın köylülerin topraklarının istimlak edilmesi konusunda belirttiği gibi, bu tam da bugün büyük YZ tarafından iddia edildiği gibi “Doğal Hak” kisvesi altında gerçekleştirilen ilkel bir fetih olgusuydu.
Kriterlere gelince, Büyük Veri veya makine öğrenimini işlemek için gereken algoritmaları yapılandırırken kullanılan işlemler hakkında çok az şey biliyoruz ve en açık şekilde seçilen sınıflandırma sisteminde – veya genel olarak etnik, cinsiyet ve diğer ayrımcılık istatistikleri de dahil olmak üzere ‘standartların sosyal yaşamı’ (Graham et al. 2021) hakkında çok az şey biliyoruz. Terranova haklı olarak üç noktanın altını çizmektedir. Birincisi, algoritmalar artık ‘üretimden dolaşıma, endüstriyel lojistikten finansal spekülasyona, kentsel planlama ve tasarımdan sosyal iletişime kadar uzanan ve son derece yaygınlaşan bilgi ve iletişim teknolojilerinin’ merkezinde yer almaktadır. Örneğin, internet kullanıcılarının çoğu her gün algoritmalarla muhatap olmaktadır: Google’ın PageRank’i arama sorgularımızın sonuçlarını sıralarken, Facebook’un EdgeRank’i haber akışımızda hangi sırayla haber almamız gerektiğine otomatik olarak karar verir. Bunlar ve daha az bilinen diğer birçok algoritma, verilerle ve birbirimizle olan ilişkimizi değiştirmektedir.
İkincisi,
Algoritmalar ancak donanım, veri, listeler, veri tabanları, bellek gibi veri yapılarının yanı sıra insan davranışını da içeren bütünlüklerin bir parçası olarak var olabilirler. Dahası, çağdaş algoritmalar giderek daha büyük veri setlerine (ve genel olarak … Büyük Veri’de artan entropiye) maruz kaldıkça, salt talimat setlerinden daha fazlası haline geliyorlar … sonsuz miktarda bilgi algoritmik prosedürlere müdahale ediyor ve onları yeniden programlıyor … ve veriler yabancı kurallar üretiyor. Açıkça görülüyor ki … algoritmalar ne homojendir … ne de otomatik düzen ve kontrolün hatasız bir şekilde yürütülmesini garanti ederler. (Terranova)
Üçüncüsü, kapitalizmde algoritmalar ancak ‘bilgiyi değişim-değerine – paraya çevirme – ve onun katlanarak artan birikimine’, internetteki devasa oligopollere dönüştürebildikleri ölçüde finansal olarak değerlidir. ‘Sabit sermaye oluşturdukları ölçüde, algoritmalar “bireysel emek kapasitesinin değer yaratma gücünün karşısında sonsuz küçüklükte, yitip giden bir büyüklük olduğu bir önkoşul olarak” görünürler (Terranova, iç alıntı Marx’ın Grundrisse‘deki ‘Makineler Üzerine Fragman’ından). Aksine, şimdiye kadar emek olarak görülmeyen faaliyetlerden artı değer elde etmeye yönelik bu yöntem, algoritmaları kullanım değerine dönüştürmek için büyük olasılıkla – ve en faydalı şekilde – uygulanabilir:
Nüfusu beslemek, barınak ve yeterli konut inşa etmek, öğrenmek ve araştırmak, çocuklara, hastalara ve yaşlılara bakmak toplumsal icatları ve işbirliğini harekete geçirmeyi gerektirir. Birçok kişi… gerekli ve değerli olanın anlamını yeniden tanımlamalı ve bunu başarmanın yeni yollarını icat etmelidir. Bu bir bakıma ‘müşterek refah’ (commonfare) kavramına tekabül eder… yatırım ve paranın toplumsallaştırılması ve … Refah kurumlarının otantik bir demokratik yeniden sahiplenilmesine … ve üretim sistemlerimizin ekolojik olarak yeniden yapılandırılmasına olanak tanıyan yönetim ve örgütlenme biçimlerini [ima eder]. (Terranova)
2.2. Şimdi, çalışma tarzlarına ek önlemler alınmadan kullanılan YZ algoritmaları topluluğu için ‘ham YZ‘ kavramını tanıtmayı amaçlıyorum. Merkezi olarak, ham YZ herhangi bir insan ya da doğal dünyayla değil, yalnızca kendi kaynaklarıyla, kelimelerin Büyük Verisiyle (ve daha sonra stilizasyonu bu gömülülüğü kökten değiştirmeyen görüntülerle) ilgilidir. Böyle bir YZ, küçük ya da büyük, dünyaya verebileceği herhangi bir yıkıma karşı yapısal olarak tamamen kayıtsızdır, çünkü onun için dünya yoktur.
YZ herhangi bir eylemi gerçekleştirmek için gerekli olan önceden tanımlanmış parametrelere sahiptir. Ancak tüm bu parametrelerin zorunlu olarak Isaac Asimov’un 1942’de antifaşist Dünya Savaşı döneminde yazdığı – ne yazık ki kurgusal – Birinci Robotik Yasası’na benzer bir şey içerdiği bir duruma kıyasla ‘ham’dır: ‘Bir robot bir insanı yaralayamaz ya da eylemsizlik yoluyla bir insanın zarar görmesine izin veremez’.
Aykırı davranışlar sergileyen çok sayıda yapay zeka sistemi örneği bulunmaktadır. Google’ın ‘Yapay Zekaya Genel Bakış’ özelliğini, muhtemelen hiciv içerikli bir web sitesindeki (Rosalsky) ‘veriden’ hareketle, pizzalarda tutkal kullanılmasını ve taş yenmesini tavsiye etmesinin ardından – nasıl olduğunu bilmiyoruz – yenilemek zorunda kalması güzel bir örnektir. Belki de uygun bilimsel yöntemler, finansman ve demokratik kontrol ile bunların düzeltilebileceğini varsayarak, tasarım sürecindeki veya bilgisayar araçlarındaki tamamen teknik kısıtlamaları veya sınırları göz ardı edebiliriz. Yine de geniş dil modellerine (GDM’ler) dayalı yapay zekanın tüm kullanımlarını tehdit eden içsel teknik ve bilişsel sapmalar, en azından erişim sapması, algoritmik sapma ve benim önyargı sapması olarak adlandıracağım riskleri içerir (ancak bunların hepsi kullanılan algoritmada saklıdır). “Erişim sapması, olayları belgelemek için gereken teknolojilere ve araçlara kimin erişebildiği ile ilgilidir. Algoritmik önyargı [algoritmaların] tasarımına ve kullanımına gömülüdür, genellikle zaten önyargılı eğitici verilerden kaynaklanır; [bu] kullanıcıların bir aramada hangi sonuçları göreceğini ve sonuçların sunulma sırasını etkileyebilir’: sınıfsal, cinsiyete dayalı ve etnik önyargılar tespit edilmiştir. Başka bir deyişle, erişim dijital bilginin nerede ve ne tür bir kaynaktan bulunduğunu belirler ve bana göre erişimin engellenmesine karşı siyasi ve mali kolaylıkları belirgin bir şekilde içermelidir; algoritmik sapma toplanan bilginin analizini ve filtrelenmesini şekillendirir; ve önyargı sapması bilginin toplanmasında veya yorumlanmasında sistematik hatalara yol açar: ‘Bu, örneğin, incelikli insan deneyimlerinin veya kavramlarının bilgisayar sistemlerine kodlanmaya çalışıldığı durumları içerebilir’ (her ikisi de McDermott ve diğerlerinden alıntıdır). Google DeepMind AI araştırma grubu bile YZ risklerine ilişkin 64 sayfalık raporunu (Weidinger vd.) altı alanda düzenlemektedir: ‘Ayrımcılık, Dışlama ve Toksisite’, ‘Bilgi Zararları’, ‘Yanlış Bilgi Sakıncaları’, ‘Kötü Amaçlı Kullanımlar’, ‘İnsan-Bilgisayar Etkileşimi Sakıncaları’ ve ‘Otomasyon, Erişim ve Çevresel Sakıncalar’.
Burada eksik olan, yapay zeka altyapısının dijital bilginin nerede, nasıl ve ne tür bir kaynaktan kullanılacağını belirleyen büyük sermaye yatırımlarına ihtiyaç duyduğu durumlarda, erişimin politik-ekonomik bir değerlendirmesidir. Yalnızca büyük şirketler ve devletler bu tür YZ modellerini geniş ölçekte uygulayabilir. ABD ve Çin, dünyadaki bilgi işlemin üçte ikisinden fazlasını kontrol etmektedir. Şiddet gücüyle (genellikle askeri kullanımla) işbirliği içinde özel kâra tabi olma, YZ kullanımlarının her yerde mevcut, genellikle hedef belirleyici ve sınırlayıcı bir faktörüdür. Otomasyon, kentsel alanın yeniden düzenlenmesi ve sınıf hiyerarşisinin aşırılaşması yoluyla büyük grupların (insanların çoğunluğu) giderek sosyal gücünün azalması ile jeopolitik güç blokları arası dengelerin dünya bağlamında günlük yaşamı değiştiriyorlar.
Özetle, hiçbir veri tamamen tarafsız değildir.
Bu nedenle, YZ’nin şimdiye kadarki insan karşıtı kullanımını, yani YZ’nin nasıl kullanıl(a)mayacağını araştırmak zorunludur. Nükleer silahlar ya da zehirli gazlar örneğinde olduğu gibi, ham YZ’ye -yani YZ’nin sıkı bir şekilde denetlenmeyen ve kurallara bağlı olmayan her türlü kullanımına- karşı muhtemelen pek çok dış kaynaklı argüman vardır, ancak ben burada sadece mevcut savaşlarda öldürme ve sakat bırakmayı kolaylaştırması ve çoğaltması ile ilgileneceğim.
Yapay Zeka ve Savaş (Gözetim ile)
Herhangi bir YZ modeli belirli varsayımlar altında programlanır ve seçilen veri setleri üzerinde eğitilir. Bu durum en belirgin ve öncelikli olarak, YZ destekli savaş oyunları ve savaşlarda hareket tarzlarını belirlemekle görevli karar-destek sistemleri için de geçerlidir.
Silvia Federici haklı olarak ‘bilgisayarlaşmanın kapitalist sınıfın askeri kapasitesini ve işimizi ve hayatımızı gözetleme kapasitesini nasıl arttırdığını, [bu gelişmeler ışığında] kişisel bilgisayarların kullanımından elde edebileceğimiz faydaların nasıl sönük kaldığını’ vurgulamıştır. O halde yapay zekanın savaşlarda ve barış zamanında insanların gözetiminde kullanımının muazzam bir ivme kazanması ve uygulanabilirliği – yüz milyon kat gibi görünüyor (Lovely) – hakkında ne söyleyeceğiz? Gazze katliamlarında açıkça görüldüğü üzere, bu ikisi birbiriyle yakından bağlantılıdır: tesadüfen değil ama tasarım gereği, tüm büyük orduların YZ’yi hevesle kullanması, ülke içi gözetimde çokça kullanılmasının hemen ardından hızlanmaktadır. Özellikle ABD – ama belki de sadece bunu daha açıktan yapıyor? – iki yıl içinde binlerce otonom silah sistemi konuşlandırmayı planlıyor. Ukrayna ve Filistin’deki savaşlar ordular için ideal test alanları. The Economist‘teki alaycı bir anonim makaleye göre, hem Amerika hem de Çin yapay zekayı askeri üstünlüğün anahtarı olarak görüyor: ‘Sonuçlar en çok akıllı ölüm makinelerinin gelişiminde görülüyor’ (‘AI Will Transform’).
Yapay zekanın özellikle sivil ölümlerinde niteliksel bir sıçrama için kullanıldığına dair en net örnek, hem kurbanların sayısının çokluğu hem de İsrail istihbaratı ve ordusu içinden bilgi yayınlayan cesur İsrailli-Filistinli muhbirler (bkz. Abraham vd.) nedeniyle mevcut Gazze savaşından geliyor. Bu savaştaki hedefleme, önceki istihbarat ve yapay zekanın kapsamlı kullanımının bir karışımından elde edilen gözetleme verileri, Google fotoğrafları, drone görüntüleri, ele geçirilen haberleşmeler ve bireylerin ve büyük grupların hareket ve davranış kalıplarının izlenmesi yoluyla Filistinlilerin yüzlerinin teşhis edilmesine dayanıyor gibi görünüyor. Muhtemelen bu sayede İsrail’in önceki saldırılarına kıyasla daha fazla Hamas üyesi öldürülmüştür, ancak ABD istihbaratı Şubat 2024’te Hamas’ı ‘ortadan kaldırmaya’ yakın olmadığını tahmin ederken İsrail ordusu aylardır bunun başarılamayacağı uyarısında bulunuyordu (Salvage). Ancak bu yaklaşım Gazze’de rekor düzeyde Filistinli’nin zarar görmesine yol açtı: 16 Ağustos 2024 itibariyle yaklaşık 40.00 ölü ve 92.700 yaralı olmak üzere toplamda yaklaşık 133.000 kişi bildirildi. Gazze’de çok daha fazla sayıda Filistinli hepatit gibi ağır hastalıklardan, susuzluktan, açlıktan ve bombardıman ve top atışları sırasında bedensel travmalardan ölüyor. Temmuz ayı başlarında üç bilim insanının Lancet‘e yazdığı bir mektupta ‘ihtiyatlı bir tahminle bildirilen her bir doğrudan ölüme karşılık dört dolaylı ölüm’ olduğu, dolayısıyla İsrail’in Gazze’deki eylemleri nedeniyle ölenlerin sayısının yaklaşık 200,000 (ya da daha fazla) olduğu ve bu sayının giderek arttığı belirtilmiştir; bildirilen ölümlerin yarısından fazlası kadın ve çocuklardan oluşmaktadır. Hamas’ın 7-8 Ekim’de İsrail’e düzenlediği saldırının sivil ve askeri kurbanlarını da unutmamalıyız: yaklaşık 1.150 ölü, 5.400 yaralı ve 251 esir; savaşın başlamasından bu yana işgal altındaki Batı Şeria’da İsrailli yerleşimcilerin artan ırkçı saldırılarında öldürülen 500 Filistinliyi de unutmamalıyız; yaralı ve tutuklu sayısı ise bilinmiyor.
Üst düzey istihbarat kaynağı B., geriye dönüp baktığında, Gazze’deki Filistinlileri öldürmeye yönelik bu “orantısız” politikanın İsraillileri de tehlikeye attığına inandığını söyledi…’ (Abraham vd.). Birincisi, İsrail ordusu Gazze’de 30-40,000 militan olduğunu varsayıyor (bkz. Davies ve diğerleri), dolayısıyla bu muazzam yıkım onların %20-30’unu kapsamış olabilir, geri kalanlar ise tünellerde ya da başka bir yerde gizleniyor olabilir. İkincisi, Gazze’den sağ kurtulan gençlerin hayatlarının geri kalanında İsrail hakkında ne hissedeceklerini bir düşünün…
Rusya-Ukrayna savaşında yapay zeka hakkında çok daha az haberimiz var, ancak Ekim 2023’te Ukrayna’nın ölümcül otonom silahları (LAW) veya katil robotları ilk kez savaş alanında kullandığı bildiriliyor; ABD, Çin ve İsrail kendi LAW’larını geliştiriyor. Ayrıca, hedefleri tespit etmek ve saldırmak için insansız hava araçlarının toplu kullanımı her iki taraf için de hayati önem taşıyor: YZ hem her tank büyüklüğündeki hedefi önceden planlayabilir hem de kaynaktan drone’a bağlantıyı ya da ‘öldürme zinciri’ ihtiyacını ortadan kaldırabilir, böylece çok daha fazla sayıda düşük maliyetli mühimmat ve nihayetinde kendi kendini yönlendiren sürüler kullanılabilir. ‘[YZ’nin] nesne tanıma ve üst düzey problem çözme konusundaki şaşırtıcı becerileri’ (‘AI Will Transform’) kalıcı olacaktır. ABD Savunma Bakanlığı’nın yeni bir Üretken Yapay Zeka Görev Gücü’ne sahip olduğu bildirilmiştir, bu durum çoğu büyük silahlı kuvvet için de geçerlidir veya yakında geçerli olacaktır.
Savaşan devletler karşılıklı ölüm ve yıkımın arttığı bir sarmalın içindeler ancak İsrail, ABD ve Rusya otonom silahlar ya da nükleer silahların YZ tarafından kontrol edilmesine ilişkin herhangi bir uluslararası yasaya karşı çıkma konusunda hemfikir. “Paradoks şu ki, YZ savaş alanını daha net bir şekilde algılasa bile… [savaşan insanlar için] durup düşünmek için daha az zaman olacak… Ordular, [YZ modellerine ve] danışmanlarına daha uzun bir tasma vermezlerse, bunu yapan bir düşman tarafından yenileceklerinden korkacaklar. Daha hızlı savaş ve daha az duraklama, ateşkes müzakerelerini veya gerilimin tırmanmasını durdurmayı zorlaştıracaktır”. Ayrıca, ‘yapay zeka destekli’ savaş, ‘kitlesel ve sınai ağırlığa’ sahip orduların lehine olacaktır… Yazılım on binlerce hedefi seçebiliyorsa, orduların bu hedefleri vurmak için on binlerce silaha ihtiyacı olacaktır… Savaş alanını birbirine bağlayan dijital sistemler son derece pahalı olacaktır… gizli verileri işleyebilen bulut sunuculara büyük yatırımlar yapılması gerekecektir. (‘AI Will Transform’) The Economist‘in makalesi şu sonuca varıyor:
Askeri avantajı en üst düzeye çıkaracağı söylenen YZ sistemlerinin, insan komutanların doğal kabul ettiği değerler ve kısıtlamalarla kodlanması gerekecektir. Bunlar arasında insan hayatına üstü kapalı bir değer biçmek – yüksek değerli bir hedefi kovalarken kaç sivilin öldürülmesi kabul edilebilir? – ve nükleer erken uyarı uyduları gibi bazı istikrarsızlaştırıcı saldırılardan kaçınmak gibi.
Aksi takdirde, hepimizin kurban olması muhtemeldir.
Tüm tarafların muharebe güçleriyle orantılı olarak işledikleri YZ temelli savaş suçları yeni yeni tartışılmaya başlanmıştır; ölçeklerinin tam olarak değerlendirilmesi belki de henüz mümkün olmasa da insanların çektiği acılardaki kitlesel artışın ortaya koyduğu kanıtlar, ‘ham YZ’nin gevşek ve intikamcı kullanımı nedeniyle niteliksel bir sıçramaya işaret etmektedir. ‘Akıllı ölüm makineleri’ terimi yanıltıcıdır, ‘kitlesel ve anlık otomatik ölüm makineleri’ demeliyiz. Elbette, her zaman olduğu gibi, Ukrayna ve özellikle İsrail’de test edilmiş savaş teknolojileri ve yöntemleri tüm yeni savaşlara ihraç edilecektir.
Burada, üstünkörü de olsa, yapay zekanın barış zamanında gözetim amaçlı kullanımından bahsetmeliyim. Bu büyük ölçüde, yıllardır hem suçlulara hem de protestoculara karşı kitlesel polis müdahalelerinin temel dayanağı olan yüz tanıma yoluyla gerçekleşmektedir (bkz. Aïm ve Clarke’daki kaynakça). Dijitalleşme, devlet kapitalizminin son derece özgürlükçü ve gizliliği hiçe sayan küresel gözetim programlarına (Valluy) kolayca ve belirgin bir şekilde entegre olmuş ve yöneticilere polis ya da askeri devriyelerden hem daha ucuz hem de daha az göze batan caydırıcı bir güç sunmuştur. Muhtemelen büyük şehirlerin çoğu, yani bu dünyadaki çoğu insan, şu anda Çin ve ABD mega şirketleri tarafından dünya çapında ihraç edilen yapay zeka gözetimi kapsamındadır. YZ’nin ‘sivil’ gözetiminde ve orduda kullanımı, Hadron Hızlandırıcısında evrimleşen çılgın parçacıklar gibi egemen sınıfların şiddetiyle bir arada tutulan sürekli bir geri besleme döngüsü içindedir, bu nedenle hangisinin tavuk hangisinin yumurta olduğunu söylemek zordur.
Büyük Veri ile Büyük İlaç Firmaları ve diğer milyarder girişimler arasındaki anlamsal paralellik, onların sömürü ve manipülasyon rejimlerini örten kutsallaştırıcı hayranlık duygusunu parçalamalıdır. Büyük Veri, en başından beri yapay zekanın kullanılmasıyla özdeş olan evrensel kılcal gözetim ile tek vücuttur. Teknolojinin ‘doğal’ olduğuna dair yanlış bilince 1960’larda Henri Lefebvre ve Herbert Marcuse tarafından karşı çıkılmıştı, çünkü teknoloji ‘tüm söylem ve eylem evrenini şekillendirir… tüm alternatifleri yutar ya da kovar’ (Marcuse). Sömürü rejimleri, fazladan emek-zamandan elde edilen karı, halktan katılımcıların değerli varlıklarına (emek ve biyolojik veriler) toptan el koyarak servet elde eden ve biriktiren devasa programlara aktarır. Ancak bu geniş girişim, sömürüden manipülasyona kolayca geçiş yapar. Marx, İngilizlerin ortak arazileri ‘çitlemesini’, topraksız yoksulların erken ölmesine neden olduğu için ‘kan dökücü’ bulmuştu; bu kana bulanmış çitlemeler, doğmakta olan kapitalizmin hem kökü hem de simgesiydi. Toprak gaspını bir adım öteye taşıyarak, manipülasyon rejimleri sıradan insanların kararlarını ve eylemlerini etkilemeye yönelik devasa programları ifade etmektedir. Hepimiz vurguncu yöneticilerin çıkarları doğrultusunda ‘veri ve mal haline getiriliyoruz’ – kelimenin tam anlamıyla nesnelere ve metalara dönüştürülüyoruz (bkz. Van Dijck). Siyasi olarak bu, hem çalışan hem de orta sınıfların modern eşleniklerini hedef alan yeni ve küresel bir sömürgeci köleleştirme anlamına geliyor (bkz. Couldry ve Mejias). Bay Zuckerberg gibilerin distopik bilim kurgu yazarı Neal Stephenson’dan ve Matrix filmlerinden devşirdiği bir terim olan ‘metaverse’ ufku, büyük şirketlerin ve büyük devletlerin, kullanıcıların -ulusal, mesleki, ailevi, kültürel…- alanlarını ve etkileşimlerini finansal olarak kontrol altına almasını kapsamaktadır (bkz. Bratton). Bu devasa bir şekilde ‘sosyal ilişkilerin sömürgeleştirilmesidir, bu ilişkilerin kamulaştırılmasına ve ardından sahiplenilmesine dayanır… istisnai ihtiyaçlardan, tekil arzulardan ya da standart dışı değerlerden kaynaklanan tüm seçenekleri etkisiz hale getirir’ (Balibar).
Kapitalist Gerçekçilik Hakkında Bir Sonuç
Bu tamamlanmamış sonucu, Karl Polanyi’nin üç ”kurgusal meta” olarak adlandırdığı emek, toprak (ya da genel olarak doğa) ve para alanlarında piyasa genişlemesinin sınırlarına ilişkin görüşünün içine yerleştirmek daha faydalı olabilir. Bu mallar elbette gerçek ve hayatidir, ancak tamamen metalaştırılamazlar, sadece kısmen ve çelişkili bir şekilde, insan kullanımı için tahrip edilme pahasına metalaştırılabilirler (Polanyi); Streeck, 2008 çöküşünde açıkça görüldüğü üzere, paranın aşırı metalaştırılmasının ardından, piyasanın bu üç alandaki genişlemesinin sınırsız artış rejimini terk etmesi gerektiğini tespit etmiştir. Son birkaç yılın verilerine dayanarak, insanların biyolojik verilerinin yapay zeka tarafından sınırsızca metalaştırılmasının -yüz ifadesinden tutun okuma ve hobi alışkanlıklarına kadar- son ve en patlayıcı ‘ kurgusal metayı’ icat ettiğini de eklemeliyiz. Bu durum, aşırı yüksek enerji tüketimi gibi kapitalist düzenin baskın kalıplarının, gezegenin insan yaşamını yok etmeden gezegen ölçeğine genişletilmesinin imkansızlığını hemen tehlike arz eden bir noktaya getiriyor. Bu konuya birçok başlık altında yaklaşılabilir ve yukarıda savaş, başka yerlerde ise ekoloji ve zaman ufukları için bunu yaptım. Burada, düşünen herhangi bir insan için hemen en dehşet verici olan şeyle devam ediyorum: biliş, insan ilişkilerindeki büyük aptallaşma.
Bu dizginsiz ve kokuşmuş kapitalizmde mevcut tüm araç ve paralarla yüceltilen mevcut yapay zeka söylencesi, endişe verici bir eğilimin en uç noktasıdır. 1890-1970 dönemi, Emperyalizm Teorisi ve Görelilik Teorisinden Kuantum Teorisine ve DNA’ya uzanan büyük keşifler dönemiydi; ağrı kesiciler, narkoz ve lazer cerrahisinden bahsetmeye bile gerek yok. Bu dönemden sonra, esas olarak çok daha gelişmiş toplu katliamlar ve gözetim, ayrıca bilgisayarlarında mahremiyeti ve radikal muhalefeti yok etmek için kullanılan devasa miktarda veri bulunan devasa şirketler görüyoruz.
Çünkü kötü anlaşılmış ama korkunç sonuçlar doğurabilecek sorunların ortasındayız:
Büyük Dil Modellerinin … çıktılarında, ilgili işi daha önce yapmamış biri tarafından fark edilmesi zor olabilecek şekilde, gerçek dışı ve saçma şeyler üretmesinin önüne geçmenin bilinen bir yolu yoktur. İnsanların bu işlevi yerine getirmediği ya da egemenlerin kafa karışıklığını yaymak istediği durumlarda, halüsinasyonlar hiçbir denetime tabi tutulmadan yayılacaktır… Fiziksel atıkların bertaraf edilmek üzere Küresel Güney’e gönderilmesi gibi, dijital atık da dünyanın yoksul kesimlerine boca edilmektedir: düşük kaliteli İngilizce içeriğin düşük kaliteli makine çevirileri halihazırda internete hakimdir. Bu … üretken yapay zeka modellerinin şimdiye kadar beslendiği ana kaynaklardan birini zehirleme riski taşıyor ve yozlaşmış bir döngüye yol açarak … makine öğreniminin tam tersine dönüşmesine neden oluyor. (Lucas)
Bir uyarı belirtisi olarak, kitap piyasası şimdiden otomatik olarak üretilen çöplerin saldırısına uğruyor: Şubat 2024 itibariyle Amazon’da yapay zeka tarafından yazılan e-kitaplarda bir patlama yaşanıyor (yapay zeka ve Amazon birbiriyle mükemmel bir uyum içinde görünüyor).
Platon’un terimleriyle ifade edecek olursak, Büyük Veri, Sokrates’in sistematik olarak şüphe ettiği ve doğasında var olan sorgulanmamış ön kabullerine işaret ederek yıktığı, hakim ve sorgulanmamış sağduyu olan doxa olacaktır. Wendy Chun’un önemli kitabında belirttiği gibi, burada ‘ham’ YZ olarak adlandırdığım şey, ön kabulleri aracılığıyla ayrımcılık, öjenik ve kimlik politikalarını kodlamaktadır. ‘Ham’ Büyük Verinin ve bu verinin tahmin kabiliyetini temellendiren korelasyon yönteminin (bkz. Bölüm 2.2) kullanımı, kullanıcıları ‘rahatlatıcı öfkenin tedirgin kümeleri’ halinde güçlü gruplamalarla öngörülebilir bir aynılık içinde eğitmek için diferansiyel hedefleme telosuyla şekillenmektedir. Bu kullanım, gerçek bozgunculuğu imkansız hale getirerek geleceği bozguna uğratmayı amaçlamaktadır.
Dahası, zengin ülkelerdeki hem eğitim hem de sağlık sistemleri, özel kârlar uğruna kasıtlı olarak bakım için gerekli finansmandan yoksun bırakıldıkları için çökmek üzeredir. Bu durum, artık resmen ihtiyaç fazlası olan insanların istihdamını da azaltan yapay zeka temelli yeni büyük sarsıntıları başlatmak için mükemmel mazeretler sunuyor. Bu felaketler, tıpkı gelişigüzel savaş cinayetleri ve mali mülksüzleştirmeler gibi şimdiden kapımıza dayanmış durumda. Steyerl’in finans konusundaki sözleriyle bitiriyorum: ‘Özel mülkiyet hakları, dijital kapitalizmde ve sonrasında, yalnızca zengin mülk sahipleri söz konusu olduğunda geçerlidir. Diğer herkes rutin olarak soyulabilir’ (‘Mean Images’).
Yapay zeka, zekanın ya da bilişselliğin kişisel özgürlüğe karşı şiddetli bir şekilde kullanılmasına yönelik büyük bir destektir. YZ ve Büyük Veri’nin, hem normal iklimi hem de Devletlerin barış içinde bir arada yaşamalarını temelden sarsan bir finansal kapitalizm tarafından kullanılmasının nihai sonucu, ‘muhtemelen kurtulunamaz bir sonuçtur… bir norm olarak öngörülmüştür’ (‘Mean Images’). Lovely’nin ayrıntılı bir şekilde anlattığı üzere, burada kendisinden alıntı yapıyorum, Google’ın kurucu ortağı Larry Page (yaklaşık 120 milyar ABD doları servete sahip) süper zeki yapay zekanın ‘evrimde sadece bir sonraki adım’ olduğunu, dolayısıyla yapay zeka kaynaklı yok oluşu önleme ve insan bilincini koruma çabalarının duygusal bir saçmalık olduğunu savunuyor; eski Google DeepMind üst düzey bilim insanı Richard Sutton da aynı fikirde. Bu kaba Sosyal Darwinizme karşı çıkan önde gelen iki YZ ‘derin öğrenme’ bilimcisi Geoffrey Hinton ve Yoshua Bengio, 2023 pozisyon belgesinde ‘şu anda hiç kimse YZ davranışını nasıl karmaşık değerlere güvenilir bir şekilde hizalayacağını bilmiyor’ şeklinde uyarıda bulunuyor ve ‘otonom YZ sistemleri üzerinde insan kontrolünün geri dönüşü olmayan bir şekilde kaybedilmesi’ riskine dikkat çekiyor; Nobel ödüllü Daniel Kahneman ve Sapiens’in yazarı Yuval Noah Harari de onlara katılıyor. Tüm bu belirsizliğe rağmen, YZ şirketleri bu sistemleri olabildiğince güçlü hale getirmek için rekabete devam ediyor ve güvenlikten ödün veriyorlar. Artık hiç kimse, milyarlarca kâr (ve/veya iflas) vaat eden milyonlarca dolarlık yatırımlar yapmadan YZ üzerinde geniş çaplı çalışmalar yapamıyor. Microsoft’un 2019’dan bu yana 13 milyar dolar yatırım yaptığı öncü OpenAI’nin kurucu ortağı Sam Altman, ‘YZ muhtemelen büyük ihtimalle dünyanın sonuna yol açacak, ancak bu esnada harika şirketler ortaya çıkacak’ diyor.
Yine de bu şirketin adı bile tipik olarak yanıltıcı, zira ‘bedava’ ya da ‘parasız’ anlamında belli belirsiz bir ‘açık’ (open) imasında bulunurken, varoluş nedeni hiçbir engel tanımadan çok para kazanmak. Dolayısıyla, bu tür YZ’lerdeki beyan ve pozisyonların çeşitlilik ve inandırıcılığı ya da güvenilirliği tehlikeye girmektedir. Hızlı kar elde etmek için kullanılabilen algoritmalar genellikle mevcut stereotiplere ve her zaman kapitalist dolaşım tarafından şekillendirilen sabit bir değer sistemine dayanır.
Lovely’nin vardığı sonuç şu: ‘İşverenler yapay zekayı çalışanları gözetlemek, kontrol etmek ve sömürmek için hali hazırda kullanıyor. Ancak asıl düş, insanları bu döngünün dışında bırakmaktır’. Bu kıyametvari endişe aşırı olabilir, ancak YZ’nin yakın geleceğinin ‘infaz ve kredi kararlarında yoğunlaştırılmış ırk ayrımcılığı, işyerlerinin Amazon depolarına dönmesi [sic], çalışan yoksullara saldırılar ve daha da yerleşik ve zenginleştirilmiş bir tekno-elit’ olarak göründüğüne dair çok az şüphe var.
YZ’yi örneğin sağlık bilimleri, mühendislik ya da yerbilimlerine uygulayarak zaman ve enerjiden tasarruf etmenin sunduğu geniş olanakları inkar etmiyorum – ancak orada bile, her şeyden önce kâr dogması ve doxası, büyük ölçüde yoksul Güney’den esirgenen ve muhtemelen 10 milyondan fazla önlenebilir ölüme yol açan Covid-19 aşıları örneğinde olduğu gibi, kitlesel refahı engelleyecektir.
Mevcut, büyük ölçüde ham yapay zeka bugün uygarlık için uçurumun kenarında bir dans gibi görünüyor. İnsan emeğinden ve insani güvencelerden giderek daha fazla taviz veren bir kapitalizmde, birkaç kişi için kâr ve güç kazançları muazzam olsa da, bu durumdan korkacak çok şeyimiz var. Bölüm 2’de tartışıldığı gibi, savaş ve kültür alanlarındaki ham yapay zeka – çalışma moduna güvenlik eklemeleri yapılmamış algoritmaların bir bütünü – herhangi bir insan ya da doğal dünya ile değil, yalnızca kendi ‘derinden öğrendiği’ kaynaklarla ilişki kurmaktadır. İnsanlık, var olmak için en kuytu köşelerin finansallaştırılmasına, insan bedenlerinin, zamanlarının ve dilinin ele geçirilmesine ya da tabi kılınmasına maruz kalmaktadır. Bu nedenle yapay zeka potansiyel olarak iklim yıkımı ve emperyal devlet savaşları kadar tehlikelidir.
Fen bilimleri ve beşeri bilimler arasındaki bölünmeden her zaman üzüntü duydum ve çalışmalarımda bunu reddetmeye çalıştım. Bu durum şimdi daha da şiddetlenerek ‘analog’ kelimeler ve ‘dijital’ sayılar arasında bir bölünmeye dönüştü, oysa her ikisine de ihtiyacımız var. Yapay zeka makineleri ‘nihayet doğal dildeki talimatları oldukça doğru bir şekilde yorumlayabiliyor ve buna karşılık olarak akıcı bir şekilde metin ve görüntüler üretebiliyor’ (Lucas). Buraya kadar her şey çok güzel. Ancak veritabanında henüz açıkça bulunmayan Diğer Olası Dünyaları varsayan herhangi bir şey YZ algoritmaları tarafından anlaşılamaz; filozof Bernard Stiegler buna ‘otantik düşünme’ ile ‘hesaplamalı bilişselcilik’ arasında daima zorunlu olan bir ayırım demiştir. Stiegler haklı olarak, yeni barbar yöneticilerimiz olan kapitalist teknokratların, insan zihninin tarihsel olarak eşi benzeri görülmemiş bir şekilde yoksullaştırılmasına, zihnin feodal çitleme ve köleleştirme yoluyla ütopik umudun yadsınmasına yol açmasından korkuyordu. İnsan zekası, şekillendirilebilir hafıza ile geri bildirim yoluyla ve dahası, düşünce ve duyguları birleştirerek çalışır. Bunların hiçbiri, yalnızca düşünsel normları ebedi bir şimdiki zamana dönüştürebilen yapay zeka tarafından kopyalanamaz. Teknolojinin bu şekilde kötüye kullanılması, Naomi Klein tarafından çok iyi bir şekilde dikkatimize sunulmuş olan, artık komünizmden korkmayan bir kapitalizmin ‘şok ve dehşet’ reçetesinin mızrak ucudur. Kitabı gibi, gerçekliğin aptallaştırılmasıyla başlıyor, ‘boş güzeldir’.
Bu aynı zamanda – en açık şekilde – alay, parodi, iğneleme ve hicvin ve hatta yapay zeka dışı (yani az ya da çok değer temelli) bağlamsal okumaların yitirilmesidir: zihinlerine işlenen teknoloji gençlere söylemin bir tweet’in düşünce süresi kadar küçük parçalar halinde olması gerektiğini dayatmaktadır. Örneğin, Şklovskiy, Bahtin, Benjamin, Brecht, Gramsci, Auerbach, Williams, Jameson ve onların tüm aykırı yoldaşları ya da münekkitleri gibi Büyük Atalarımızın izinden giden edebi ve kültürel çalışmaların tamamı ham yapay zekanın kapasitesini aşmaktadır. Üniversitelerin öğretim için yapay zeka kullanması sadece tüm önemli kültürel çalışmaları ya da beşeri bilimleri ortadan kaldırmakla kalmayacaktı ve bu dalga şimdiden etkisini göstermeye başladı: Mayıs 2023’te Birleşik Krallık’taki Brighton Üniversitesi’nde yaklaşık 100 beşeri bilimler öğretim görevlisinin işine son verilmesine tamamen şans eseri tanık oldum. Öğretimin en verimli ve insani yaklaşımı olan, eğitilen ve öğretmenin yüz yüze etkileşimi de kaybolacaktır.
Fizikçi ve filozof Ragnar Fjelland, insan zekasının kısmen öğretilmeyen ancak zımnen aktarılan ve algoritmalar ya da kodlar kullanılarak kopyalanamayan yollarla aktarıldığına işaret etmiştir: bilgimizin çoğu ‘zımni’dir (Michael Polanyi ve Hubert Dreyfus tarafından da öne sürülmüştür). Bedenlenmiş, nedensel zekâdan ve onun ihtiyaç duyduğu zaman ritimlerinden tamamen koparak çok belirli bir davranışı dayatan metinler ve imgeler üretmek üzere çitle çevrilmiş bir ‘dijital zekâ’ hakkında endişelerim var. Bu cisimsizleşme, erotizm ve insanileştirilmiş arzu da dahil olmak üzere, başta Haz İlkesi olmak üzere, pragmatik ihtiyaçlar ve tehlikelerden kaynaklanan tüm denetimleri reddeder ve bu nedenle Homo türünün muhafazasına (bkz. Pasquinelli); ya da politik bir ifadeyle, insanlar arasındaki özgürlük ve dayanışmaya aykırıdır.
Bu insanlığın karanlık ufkudur. Bugün yaratılmakta olan YZ yeni bir kurtarıcı değil, mevcut insanlık dışı değer sistemi içerisindeki güçlerin muazzam bir şekilde çoğaltılması, dünyanın dört bir yanındaki kör egemen sınıfların temel olarak maddi ve bilişsel yıkıma yol açan kullanıma hazır bir aracıdır. Halihazırda faaliyet gösteren uygulamalarda yapay zeka, büyük ölçüde kişisel özgürlüğe karşı kullanılmaktadır. İnsan yaşamı ve ölümüyle ilgili en önemli kararlara giderek artan bir şekilde ham YZ girdisine öncelik verilerek ulaşılmaktadır; bu da zaten kirli hava, su ve iklim şeklinde karşımıza çıkan ve giderek daha fazla savaşa yol açan, nihayetinde kimsenin kontrolünde olmayan serseri bir gerçeklik ihtimalini arttırmaktadır. Franz Neumann, Herbert Marcuse ve şimdi de Alberto Toscano tarafından en doğru biçimiyle faşizm olarak tartışılan Devlet ve tekelci kapitalizmin dev bir birleşiminin güçlerini çoğaltıyor. Halihazırda kapitalist finansın güçlendirilmesi ‘oligarşik yeniden dağıtımla birlikte ekonomik durgunluk’ (Streeck) üretti – yani, çok sayıda yasadışı dalavere ve toplumun sadece en kötü sınıflı toplumlarla karşılaştırılabilecek şekilde birkaç süper zengin ve devasa bir süper yoksul kitlesi olarak tabakalaşması, açlık ve savaşı besledi. Burada bulgularım, ‘yaklaşmakta olan üç felaket’ olan ‘İklim, Savaş ve Metaverse’ (Balibar) üzerine doğru bir politik değerlendirme ile birleşiyor ve güçleniyor.
Dahası, yeni araştırmalar Büyük Veri’nin tamamen rastgele olasılık (ya da rekabetçi kapitalizm) modelinin ötesine geçerek dünyanın kurallara dayalı soyut mantıksal bir temsiline doğru ilerliyor. Yöneticilerimiz tarafından devam eden yüksek finansmanla, birkaç yıl içinde oraya ulaşabilirler. Eğer dünyayı modellemeye yönelik yeni kurallar, kapitalist çağın değerler ve normlar çerçevesini algoritmalara yerleştirirse, yeni köleliğin getirdiği faşist bir kast sistemine sahip oluruz.
Teknik olarak benzer bir ihtimal, kapitalist olmayan üreticilerin kooperatif birliklerine dayanabilir. Bu nedenle, kapitalist gerçekçiliğe ütopik gerçekçilikle karşı çıkılmalıdır, ancak bunu burada yapamam. Bununla birlikte, güvenli bir yapay zeka kullanımı ancak, uygulamadan önce kurucu bir noktada eklenen kalıcı güvencelere yerleştirilmiş sivil ve demokratik (citoyen) değerlerin yükseltilmesi ve uygulanmasıyla sağlanabilir. Bu nedenle, kapitalizmin kökeninde var olan kamusal alanı yağmalama eğilimini tersine çevirmemiz zorunludur ve bu da ham yapay zeka kullanımına karşı büyük bir seferberlik anlamına gelmektedir. Amerika Yazarlar Birliği’nin 2023 yılında Hollywood Sinema ve Televizyon Yapımcılarına karşı gerçekleştirdiği ve 148 gün süren ilk büyük YZ karşıtı grev de muhtemelen büyük önem taşımaktadır. Bu grevde sohbet robotlarının kaynak materyal yazmak için kullanılmaması talep edilmiştir. WGA, yapay zeka kullanımını bir şekilde dizginlemeyi başardı ancak yasaklamayı başaramadı; WGA üyelerine bazı tazminat kırıntıları sunulacak olabilir, ancak film ve TV stüdyoları hala tüm şovları ve oyuncuları yapay zeka ile oluşturabilir (bkz. Billet).
Vatandaşların ve hükümetlerin, muhtemelen BM Genel Sekreteri António Guterres’in önerdiği gibi bir Uluslararası YZ Ajansı aracılığıyla hem bugün hem de gelecek için kapsamlı bir düzenleme geliştirebilmeleri için, mevcut durumdaki en yüksek kapasiteli genel amaçlı modellerin ‘sınır’ YZ gelişimini durdurmaya yönelik taban hareketini destekliyorum. Tehlikeli biyolojik araştırmalarda olduğu gibi, şirketler tarafından titiz kurulum öncesi risk değerlendirmeleri zorunlu hale getirilmelidir. Bunu yapmak, teknoloji şirketlerinin mevcut hasarları daha da kötüleştirmesini ve yenilerini yaratmasını engelleyecektir: bu, dijital endüstrinin telafisi mümkün olmayan zararlar vermesini engellemek için bir fırsat olacaktır (bkz. Kelly). İnsanların ihtiyaç duydukları malların kullanımına uygulanan ‘kemer sıkma’ politikasına taban tabana zıt olarak, yalnızca gerçek vatandaşların hayatta kalması ve zenginleşmesine yönelik sert bir yapay zeka rotası tam bir çöküşü önleyebilir. Bunun için iyi finanse edilmiş yasalara ve bilgili ve kararlı bir vatandaş kitlesine ihtiyaç vardır. Bu da imajlar ve yazılı kaynaklar üzerinde kimin mali ve siyasi gücü elinde tuttuğuna bağlıdır. Tek çıkış yolu, milyarderlerin ve şirketlerin gücünü sıradan emekçi insanlara ve onların örgütlerine doğru radikal bir şekilde yeniden dağıtmak olacaktır.
Historical Materialism/4 Ekim 2024/Çeviren: Uğur Şen
