Önde gelen bilim insanları, teknoloji uzmanları ve filozoflar inovasyonun yönü hakkında defalarca korkunç tahminlerde bulunmuşlardır. Enrico Fermi’nin Chicago’da ilk fisyon reaktörünün yapımını tamamlamasından sadece on yıl önce “Nükleer enerjinin elde edilebileceğine dair en ufak bir belirti yok” diyen Einstein bile bundan muaf değildi. Kısa bir süre sonra, fikir birliği yakın bir nükleer soykırım korkusuna dönüştü.
Benzer şekilde, günümüz uzmanları da yapay genel zeka (AGI) kıyametinin yakın olduğu konusunda uyarıda bulunuyor. Diğerleri ise büyük dil modellerinin (LLM’ler) güçlerinin zirvesine çoktan ulaştığını söylüyor.
David Collingridge’in yeni teknolojilerin yarattığı riskleri tahmin etmeye çalışmanın aptalca bir iş olduğu yönündeki etkili tezine karşı çıkmak zor. Önde gelen bilim insanlarımızın ve teknoloji uzmanlarımızın teknolojik evrim konusunda genellikle bu kadar yanıldıkları göz önüne alındığında, politika yapıcılarımızın yapay zekadan (AI) kaynaklanan yeni teknolojik riskleri etkili bir şekilde düzenleme şansı nedir?
Collingridge’in teknolojinin belirsiz şekillerde geliştiği yönündeki uyarısına kulak vermeliyiz. Bununla birlikte, genellikle önceden bilinebilen bir YZ riski sınıfı vardır. Bunlar, bir şirketin tescilli YZ modelinden belirli bir şekilde kâr elde etmeye yönelik ekonomik teşvikleri ile toplumun YZ modelinin nasıl parasallaştırılması ve kullanılması gerektiğine ilişkin çıkarları arasındaki uyumsuzluktan kaynaklanan risklerdir.
Bu tür bir uyumsuzluğu görmezden gelmenin en kesin yolu, bu modellerin çalışacağı ve kâr için tasarlanacağı sosyo-ekonomik ortamdan ayrı olarak, yalnızca YZ model yetenekleri hakkındaki teknik sorulara odaklanmaktır.
YZ’den kaynaklanan ekonomik risklere odaklanmak, sadece “tekelciliği”, “kendi kendine referans vermeyi” veya “Büyük Teknoloji hakimiyetini” önlemekle ilgili değildir. Bu, inovasyonu kolaylaştıran ekonomik ortamın, şirketlerin kâr veya pazar hakimiyeti yarışında “hızlı hareket etmeleri ve bir şeyleri kırmaları” nedeniyle tahmin edilmesi zor teknolojik riskleri teşvik etmemesini sağlamakla ilgilidir.
Ayrıca, erken konsolidasyonu önleyerek yapay zekadan elde edilen değerin geniş çapta paylaşılmasını sağlamakla da ilgilidir. Yeni ortaya çıkan YZ araçları herkes için erişilebilir olursa daha fazla inovasyon göreceğiz, böylece yeni firmalar, start-up’lar ve YZ araçlarından oluşan dağınık bir ekosistem ortaya çıkabilir.
OpenAI, yıllık 2 milyar ABD doları (1,6 milyar £) satış ve milyonlarca kullanıcısıyla şimdiden baskın bir oyuncu haline geldi. GPT mağazası ve geliştirici araçları, inovasyon ekosistemlerinin yaşayabilir ve dağınık kalmasını sağlamak için değeri onu yaratanlara geri döndürmelidir.
İnovasyonların altında yatan ekonomik teşvikler sistemini ve teknolojilerin pratikte nasıl paraya dönüştürüldüğünü dikkatle sorgulayarak, bir pazarın yapısının beslediği hem ekonomik hem de teknolojik riskleri daha iyi anlayabiliriz. Piyasa yapısı sadece firma sayısı değil, kurumlardan, komşu hükümet düzenlemelerinden ve mevcut finansmandan kaynaklanan piyasadaki maliyet yapısı ve ekonomik teşviklerdir.
Daha yüksek kâr için kalitenin düşürülmesi
Eski toplayıcı platformların (diğerlerinin yanı sıra Amazon, Google ve Facebook’u düşünün) temelini oluşturan algoritmik teknolojilerin başlangıçta kullanıcılara fayda sağlamak için kullanılırken, sonunda platformun kârını artırmak için nasıl yeniden programlandığını düşünmek öğreticidir.
Sosyal medya, arama ve tavsiye algoritmalarının yol açtığı sorunlar asla bir mühendislik sorunu değil, algoritmaların güvenli, etkili ve adil bir şekilde kullanılmasıyla uyumlu olmayan finansal teşviklerden (kâr artışı) kaynaklanıyordu. Ne demişler: Tarih tekerrürden ibaret değildir, ancak kafiyeli olabilir.
Platformların değeri kendilerine nasıl tahsis ettiğini ve bu konuda neler yapabileceğimizi anlamak için, algoritmaların ve dijital pazarların benzersiz bilgi düzeninin, platformlardaki kullanıcılardan ve üreticilerden sözde ekonomik rantların çıkarılmasındaki rolünü araştırdık. Ekonomi teorisinde rantlar “süper normal karlardır” (rekabetçi bir piyasada elde edilebilecek olanın üzerinde olan karlar) ve bazı kıt kaynaklar üzerindeki kontrolü yansıtır.
Daha da önemlisi, rantlar, rekabetçi bir piyasada bir şey üretmekten (birçok üreticinin araba üretip satması gibi) elde edilen bir getiriden ziyade, sahipliğin ya da bir dereceye kadar tekel gücünün saf getirisidir. Dijital platformlar için, dijital rantların elde edilmesi genellikle, bir müşteri kitlesine erişime “sahip olma” temelinde, kullanıcıya gösterilen bilginin kalitesinin düşürülmesini gerektirir.
Örneğin, Amazon’un milyonlarca kullanıcısı, her bir ürünü tek tek inceleyemedikleri için, kendilerine satışa sunulan en iyi ürünleri göstermesi için ürün arama algoritmalarına güvenmektedir. Bu algoritmalar, kullanıcıların binlerce ürün arasından en yüksek kaliteye ve en düşük fiyata sahip olanları bulmalarına yardımcı olarak ve Amazon’un teslimat altyapısı ve muazzam müşteri ağı aracılığıyla tedarikçilerin pazar erişimini genişleterek herkese zaman ve para tasarrufu sağlıyor.
Bu platformlar piyasaları daha verimli hale getirdi ve hem kullanıcılara hem de ürün tedarikçilerine muazzam bir değer sağladı. Ancak zaman içinde, başlangıçta kullanıcılara değer sağlama vaadi ile büyüme yavaşladıkça kar marjlarını genişletme ihtiyacı arasındaki uyumsuzluk kötü platform davranışlarına neden oldu. Amazon’un reklamcılık işi buna bir örnektir.
Amazon’un reklamları
Amazon üzerinde yaptığımız araştırmada, kullanıcıların artık en iyi sonuçlar değil, ücretli reklam yerleşimleri olsalar bile sayfanın en üstündeki ürün sonuçlarına tıklama eğiliminde olduklarını gördük. Amazon, kullanıcıların algoritmalarına duymaya alıştıkları güveni kötüye kullanmakta ve bunun yerine kullanıcıların dikkatini ve tıklamalarını daha düşük kaliteli, sponsorlu ve büyük kârlar elde ettiği bilgilere yönlendirmektedir.
Amazon’un kendi kalite, fiyat ve popülerlik optimizasyon algoritmalarına göre, en çok tıklanan sponsorlu ürünlerin (reklamların) ortalama olarak %17 daha pahalı ve %33 daha düşük sıralamalı olduğunu tespit ettik. Ürün tedarikçileri, daha önce ürün kalitesi ve itibarı sayesinde kazandıkları ürün sıralaması için artık ödeme yapmak zorunda olduklarından, Amazon’unki arttıkça karları düşüyor ve maliyetin bir kısmı müşterilere yansıtıldığından fiyatlar yükseliyor.
Amazon, başlangıçtaki “erdemli” misyonundan (“dünyadaki en müşteri odaklı şirket olmak”) uzaklaşarak çıkarcı bir iş modeline yönelen bir şirketin en çarpıcı örneklerinden biridir. Ancak bu konuda yalnız değil.
Google, Meta ve neredeyse tüm diğer büyük çevrimiçi toplayıcılar, zaman içinde ekonomik çıkarlarını kullanıcılarına ve içerik ve ürün tedarikçileri ya da uygulama geliştiricilerinden oluşan ekosistemlerine verdikleri sözlere tercih etmeye başladılar. Bilim kurgu yazarı ve aktivist Cory Doctorow bu durumu Büyük Teknoloji platformlarının “bozulması” olarak adlandırıyor.
Ancak tüm rantlar kötü değildir. Ekonomist Joseph Schumpeter’e göre, bir firmanın inovasyon yaparak elde ettiği rantlar toplum için faydalı olabilir. Big Tech’in platformları son derece yenilikçi, üstün, algoritmik atılımlarla öne geçti. Yapay zeka alanındaki mevcut pazar liderleri de aynı şeyi yapıyor.
Dolayısıyla, Schumpeterci rantlar gerçek ve haklı olsa da, zaman içinde ve dış finansal baskı altında, pazar liderleri algoritmik pazar güçlerini, kârlarını artırmaya devam etmek için reklamcılar, tedarikçiler ve kullanıcılardan oluşan ekosistem tarafından yaratılan değerden daha büyük bir pay almak için kullanmaya başladı.
Kullanıcı tercihlerinin algoritmik önemi, daha kârlı içerikler lehine azaltıldı. Sosyal medya platformları için bu, kullanıcı sağlığına ne pahasına olursa olsun platformda geçirilen süreyi artırmak için bağımlılık yaratan içerikti. Bu arada, platformlarına değer katan nihai tedarikçiler – içerik yaratıcıları, web sitesi sahipleri ve tüccarlar – getirilerinin daha fazlasını platform sahibine devretmek zorunda kaldı. Bu süreçte, kârlar ve kâr marjları birkaç platformun elinde yoğunlaşarak dışarıdan şirketlerin inovasyon yapmasını zorlaştırdı.
Bir platformun kendi firma ekosistemini (platformun her iki tarafında da orantılı bir değere sahip olmayan hiçbir şey karşılığında) giderek daha yüksek ücretler ödemeye zorlaması haklı gösterilemez. Bu, platformun kazanılmamış rantlar elde etmek için kullandığı bir pazar gücüne sahip olduğuna dair kırmızı bir ışıktır. Amazon’un en son üç aylık açıklamaları (4. Çeyrek, 2023), çevrimiçi satışlarda bir önceki yıla göre %9’luk bir büyüme, ancak ücretlerde %20 (üçüncü taraf satıcı hizmetleri) ve %27’lik (reklam satışları) bir büyüme olduğunu göstermektedir.
Risk ve inovasyon bağlamında hatırlanması gereken önemli bir husus, Büyük Teknoloji tarafından algoritmik teknolojilerin bu rant çıkarıcı yayılımının Collingridge tarafından tanımlandığı gibi bilinemez bir risk olmadığıdır. Bu öngörülebilir bir ekonomik risktir. Birinin kontrolü altındaki kıt kaynakların sömürülmesi yoluyla kar elde etme arayışı, ticaretin kendisi kadar eski bir hikayedir.
Algoritmalara yönelik teknolojik önlemler ve platformların algoritmalarından nasıl para kazandıklarına ilişkin daha ayrıntılı açıklamalar, bu tür davranışların gerçekleşmesini engellemiş olabilir. Algoritmalar piyasa bekçileri ve değer tahsis edicileri haline gelmiştir ve artık bilginin üreticileri ve hakemleri haline gelmektedir.
Yeni nesil yapay zekanın yarattığı riskler
Algoritmalara ve YZ modellerine koyduğumuz sınırlar, ekonomik faaliyetlerin ve insan dikkatinin üretken amaçlara yönlendirilmesinde etkili olacaktır. Ancak yeni nesil YZ sistemleri için riskler ne kadar büyük? Sadece bize gösterilen bilgileri değil, aynı zamanda nasıl düşündüğümüzü ve kendimizi nasıl ifade ettiğimizi de şekillendirecekler. YZ’nin gücünün, gelecekte kötü davranışlar için ekonomik teşviklerle karşılaşması muhtemel birkaç kâr odaklı kuruluşun elinde merkezileştirilmesi kesinlikle kötü bir fikirdir.
Neyse ki toplum, her yeni inovasyondan sonra kaçınılmaz olarak ortaya çıkan ekonomik riskleri şekillendirmede çaresiz değildir. İnovasyonun gerçekleştiği ekonomik ortamın getirdiği riskler değişmez değildir. Piyasa yapısı, düzenleyiciler ve bir platformun algoritmik kurumları (özellikle de piyasa benzeri tahsisler yapan algoritmaları) tarafından şekillendirilir. Bu faktörler birlikte, piyasa hakimiyetinin ödülleri de dahil olmak üzere, bir piyasadaki ağ etkilerinin ve ölçek ve kapsam ekonomilerinin ne kadar güçlü olduğunu etkiler.
Farklı dijital sistemlerin sorunsuz bir şekilde birlikte çalışabilmesini ifade eden birlikte çalışabilirlik veya bir platformun resmi mağazası dışındaki kaynaklardan uygulama yükleme uygulaması olan “yan yükleme” gibi teknolojik zorunluluklar, kullanıcı hareketliliğinin piyasalar içinde ve arasında akışkanlığını ve dolayısıyla herhangi bir baskın kuruluşun kullanıcılarını ve ekosistemini kalıcı olarak sömürme yeteneğini şekillendirmiştir. İnternet protokolleri, internetin kapalı yerine açık kalmasına yardımcı oldu. Açık kaynak kodlu yazılımlar, bilgisayar döneminin baskın tekelinin boyunduruğundan kurtulmasını sağladı. Birlikte çalışabilirlik ve açık kaynak, yapay zeka endüstrisini daha rekabetçi ve kapsayıcı bir pazar olarak tutmada nasıl bir rol oynayabilir?
İfşa, piyasayı şekillendiren bir diğer güçlü araçtır. Açıklamalar, teknoloji şirketlerinin ürünleri ve para kazanma stratejileri hakkında şeffaf bilgi ve açıklamalar sunmalarını gerektirebilir. Reklam yükü ve diğer işletme ölçütlerinin zorunlu olarak açıklanması, örneğin Facebook’un her bir kullanıcının verilerini toplayarak reklam gelirlerini maksimize etmek için kullanıcılarının mahremiyetini istismar etmesini önlemeye yardımcı olabilirdi.
Ancak veri taşınabilirliğinin olmaması ve Facebook’un algoritmalarının bağımsız olarak denetlenememesi, Facebook’un gözetim sisteminden olması gerekenden daha uzun süre faydalanmaya devam etmesi anlamına geliyordu. Bugün, OpenAI ve diğer önde gelen yapay zeka modeli sağlayıcıları eğitim veri setlerini açıklamayı reddederken, telif hakkı ihlali ve yapay zeka destekli yaratıcı çalışmalardan kimin kar elde etme hakkına sahip olması gerektiği konusunda sorular ortaya çıkıyor. Açıklamalar ve açık teknolojik standartlar, ortaya çıkmakta olan bu YZ platformlarından elde edilen faydaların mümkün olduğunca geniş bir şekilde paylaşılmasını sağlamaya yönelik önemli adımlardır.
Piyasa yapısı ve bunun “kimin neyi neden alacağı” üzerindeki etkisi, firmaların bir piyasada nasıl rekabet etmelerine izin verildiğine ilişkin teknolojik temel geliştikçe evrilmektedir. Bu nedenle belki de düzenleyici bakışlarımızı, belirli teknolojiler geliştikçe ortaya çıkabilecek belirli riskleri tahmin etmeye çalışmaktan başka yöne çevirmenin zamanı gelmiştir. Ne de olsa Einstein bile bunu yapamazdı.
Bunun yerine, günümüz inovasyonlarının temelini oluşturan ekonomik teşvikleri, YZ teknolojisinin riskli kullanımlarından uzakta ve değeri adil bir şekilde destekleyen ve dağıtan açık, hesap verebilir YZ algoritmalarına doğru yeniden ayarlamaya çalışmalıyız. Teknolojik risklerin sıklıkla yanlış hizalanmış ekonomik teşviklerin bir sonucu olduğunu ne kadar çabuk kabul edersek, geçmişin hatalarını tekrarlamaktan kaçınmak için o kadar çabuk çalışabiliriz.
Amazon’un üçüncü taraf pazaryerinde firmalara reklam hizmetleri sunmasına karşı değiliz. Uygun miktarda reklam alanı, rekabetçi teklifleri olan daha az bilinen işletmelerin veya ürünlerin adil bir şekilde ilgi çekmesine gerçekten yardımcı olabilir. Ancak reklamlar, üst sıralarda yer alan organik ürün sonuçlarının neredeyse tamamen yerini aldığında, reklamlar platform için bir kira çıkarma aracı haline gelir.
Bir Amazon sözcüsü şunları söyledi:
Kullandığı sınırlı verileri yanlış temsil eden ve abartan bu araştırmada yapılan bir dizi sonuca katılmıyoruz. Amazon’un kendisinden daha hızlı büyüyen bağımsız satıcıların satışlarının hizmetlerden elde edilen gelire katkıda bulunduğunu ve reklam hizmetlerimizin çoğunun mağazada görünmediğini göz ardı ediyor.
Amazon, müşterilerin hayatlarını kolaylaştırma konusunda takıntılıdır ve bunun büyük bir kısmı, müşterilerin mağazamızda istedikleri ürünleri hızlı ve kolay bir şekilde bulup keşfedebilmelerini sağlamaktır. Reklamlar onlarca yıldır perakendenin ayrılmaz bir parçası olmuştur ve bunları dahil ettiğimiz her zaman açıkça ‘Sponsorlu’ olarak işaretlenirler. Alaka düzeyi, müşteriler arasındaki popülerlik, bulunabilirlik, fiyat ve teslimat hızı gibi faktörlere dayalı olarak organik ve sponsorlu arama sonuçlarının bir karışımını ve sonuçları hassaslaştırmak için yararlı arama filtreleri sunuyoruz. Ayrıca, satıcıların büyümelerine yardımcı olmak için araç ve hizmetlere milyarlarca yatırım yaptık ve reklam ve lojistik gibi ek hizmetler tamamen isteğe bağlıdır.
Kaynak: Natalie Sauer / The Conversation
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
