Sene bitmeden 20 milyar dolara NVIDIA şirketi Groq şirketinin bir nevi içini boşalttı. Bütün fikri haklarını ve insan teşkilatını bünyesine kattı. Şirketi de bomboş müşterileri ve iş anlaşmaları ile bıraktı. NVIDIA’nın Groq hamlesi şunu söylüyor: Yapay zekânın geleceği yalnızca “eğitimle” kazanılamaz. Dünyayı kasıp kavuran GPU’nun sahibi neden başka bir çip şirketini alma gereği duydu. Bu aslında tarihi sürecin devamı gibi:
Şimdi yeni bir halka ekleniyor: GPU → IPU (Inference Processing Unit). Bu, GPU’ların sonu değil. Ama GPU’ların tek başına yeterli olmadığının bir göstergesi oldu. Çünkü GPU bir İsviçre çakısıysa, çıkarım çipi (inference) bir fabrika bandı gibidir.
Önce yapay zekâ nasıl çalışır! kısa bir açıklayalım. Yapay zekâ önce öğrenir, sonra düşünür! Yapay zekâyı anlamanın en kolay yolu, onu bir insan gibi düşünmektir. Bir insan da iki aşamadan geçer: öğrenir ve öğrendiğini kullanır. Yapay zekâda bu iki aşamanın adı şudur: Eğitim (Training) ve Çıkarım (Inference). Eğitim nadirdir. Çıkarım süreklidir. Bir dil modeli örneğin ChatGPT veya Gemini:
Aynı bir doktor gibi. Tıp fakültesini bitirmesi = eğitim, hastaya teşhis koyması = çıkarım. Doktorun bir okulu herhangi bir ülkede bir kere bitirmesi yeterlidir. Ama binlerce hastaya bakar ve hastaya bakarken orada olmak zorundadır. Yapay zekâ için de aynı durum geçerlidir.
Groq, yapay zekâ çıkarımı (inference) için baştan aşağı özel bir mimari tasarladı. Bu mimariyi geliştiren ekip, daha önce Google’da TensorFlow’un geliştirilmesinde yer alan isimlerden oluşuyor.
Çıkarım mimarisi deterministiktir (sürpriz üretmez), bir kez derlenir ve sonra milyonlarca kez aynı hızda çalışır. Kontrol mantığı minimumdur. Bu yüzden Groq çipleri daha düşük gecikme, daha yüksek verim ve daha düşük maliyet sunar. Kısacası Groq, “her şeyi yapan” değil, “tek işi kusursuz yapan” bir yaklaşımı benimsedi.
Çünkü uzun vadede veri merkezlerinin enerji faturası, yapay zekâ servislerinin kârlılığı, ulusal yapay zekâ altyapılarının sürdürülebilirliği tamamen çıkarım mimarisine bağlıdır.
Yani asıl hacim oyunu çıkarım üzerine bir sonraki cephe ise kenar veri merkezleri (edge) ve robotik. Çünkü gerçek patlama:
Burada gecikme milisaniye değil, hayat–ölüm meselesi olabilir Buluta gidemeyen, anında karar vermesi gereken sistemler için çıkarım mimarisi varoluşsal bir konudur.
Bu nedenle eğitim uzakta yapılabilir, çıkarım yakında olmalıdır.
Eğitim:
Çıkarım ise:
Bu yüzden:
Bu aynı zamanda jeopolitik bir konu. Çünkü çıkarım karar üretir ve karar güçtür. Eğer bir ülke yapay zekâyı kullanıyor ama çıkarımı başka bir ülkeye bağımlıysa o ülke yavaşlar, kırılgan olur ve bağımsız karar veremez. Bu yüzden yapay zekâda asıl mesele “modeli kim eğitti?” değil “karar nerede üretiliyor?” sorusudur.
ABD için çıkarım askerî sistemlerde, istihbaratta ve finansal altyapılarda merkezî kontrol demektir. Bu nedenle eğitim küresel bırakılabilir ama çıkarım mimarisi ve standartları kontrol altında tutulmak istenir.
AB ise modeli değil davranışı regüle eder. Ama davranış eğitimde değil çıkarımda ortaya çıkar. Bu yüzden deterministik, denetlenebilir ve sertifikalanabilir çıkarım mimarileri, Avrupa için idealdir. AI Act’in gerçek etkisi, eğitimden çok çıkarımı şekillendirecektir.
Yapay zekâda coğrafya bir nevi geri döndü. Uzun süre “dijital dünyada coğrafya önemsiz” denildi. Şimdi yapay zekânın jeopolitiği “Modeli kim eğitti?” değil, “Kararı kim, nerede üretiyor?” ile şekilleniyor olacak. Bu konuda bölgemizde buna ilk uyanan ise Sudi Arabistan oldu. HUMAIN şirketini kurdu. Eski petrol gücünü yeni petrol olan veriye çevirmek için yerli veri, yerli model ve yerli yapay zekâ asistanı temelli bir strateji ile Groq’un ilk müşterisiydiler.
Kamuda yeni kurulan yapay zekâ kurumu ile Türkiye’nin konumu bu noktada benzersiz olabilir!Avrupa’ya düşük gecikme, Orta Doğu’ya yakınlık, Orta Asya’ya erişim ve enerji hatlarının kesişimi öne çıkabilir. Bu coğrafya, Türkiye’yi bölgesel bir çıkarım üssü (inference hub) haline getirebilir.
