Ulusal istihdam kurumu France Travail’ın kullandığı model, iş arayanları ‘yükümlülüklerini yerine getirme ihtimali’ üzerinden sınıflandıran bir risk analiz sistemi olarak tanımlanıyor. Amaç, denetim ekiplerinin hangi dosyalara öncelik vereceğini otomatik olarak belirlemek. Bu yaklaşım, işsizliğin desteklenmesi yerine gözetim mantığının güçlendiği yönünde eleştiriler alıyor.

France Travail’ın denetim modeli, iş arayanların dosyalarını 26 farklı kriter üzerinden değerlendiren bir karar motoru olarak çalışıyor. Bu çerçevede çevrim içi özgeçmişin güncelliği, aranan meslek ve sektör, eğitim seviyesi, kuruma kayıt süresi, randevuya katılım geçmişi, platformdaki görünürlük, önceki iş deneyimi, iş arama platformlarındaki etkinlik, meslek-sektör uyumu ve kayıt süresi gibi hem davranışsal hem de yapısal veriler kullanılıyor. Sistem, bu değişkenleri bir araya getirerek yükümlülüklerini yerine getirmeme ihtimali yüksek profilleri belirlemeye yöneliyor. Ancak kriterlerin hangi ağırlıkla işlendiği, hangi davranışın riskli kabul edildiği ve modelin karar mekanizmasının nasıl çalıştığı kamuoyuna açıklanmadı. Bu belirsizlik, hem değerlendirme çerçevesinin hem de algoritmanın temel işleyişinin şeffaflığına dair belirsizliği derinleştirdi.

İKİ BOYUTLU TARTIŞMA: TEKNİK SİSTEM, POLİTİK ETKİ

France Travail’ın yapay zeka sistemi, on binlerce eski denetim dosyasını temel alan bir öğrenme mantığıyla çalışıyor. Bu dosyalar veri işleme, sınıflandırma, otomasyon ve model eğitimi gibi teknik süreçlerin omurgasını oluşturuyor. Aynı zamanda geçmişteki hatalı değerlendirmeleri, önyargılı kararları ve yanlış pozitifleri de içeriyordu. Bu nedenle model, işsizliğin suçlulaştırılması, sosyal yardım alanların gözetimi, eşitsizliklerin yeniden üretimi ve kamu yönetiminde algoritmik karar verme gibi politik sonuçlar doğurabilecek bir yapıya dönüştü. Uzmanlar, geçmiş denetim pratikleri belirli grupları daha sık hedeflediyse algoritmanın aynı taraflılığı yeniden üretebileceğini belirtti. Bu durum, özellikle düşük gelirli, uzun süre iş arayan veya göçmen kökenli kişilerin daha yüksek risk grubuna atılabileceği yönündeki endişeleri büyüttü.

EKSİK BELGELER, BELİRSİZ KRİTERLER

France Travail’ın yapay zeka sistemi, 60.000 eski denetim dosyasını temel alan bir makine öğrenimi modeliyle çalışıyor. France Travail sistemi etik komiteye sunmuş durumda, ancak komite belgelerin eksik, yetersiz ve şeffaf olmadığını vurguluyor. Kriterlerin ağırlıkları, modelin hata düzeltme mekanizması, yanlış pozitif oranı ve ayrımcılık riskine dair komite, açıklamaların yapılmadığını belirtiyor, sistemin toplumsal etkilerinin değerlendirilebilmesi için daha kapsamlı veri ve metodoloji paylaşılması gerektiğini belirtiyor.

ŞÜPHELİ PROFİL’İN ÜRETİMİ

Model, iş arayanları yükümlülüklerini yerine getirmeme ihtimali yüksek olanlar ile düşük riskli görülenler şeklinde iki kategoriye ayırıyor ve bu ayrım teknik olarak bir olasılık tahmini gibi görünse de pratikte işsizleri şüpheli olarak etiketleyen bir mekanizmaya dönüşüyor. Şüpheli kategorisine kimlerin dahil edildiği açıklanmıyor, kriterlerin ağırlıkları bilinmiyor, modelin bir kişiyi neden riskli gördüğü şeffaf olmuyor ve işsizlerin dosyalarının neden denetime alındığı öğrenilemiyor. Bu durum, işsizliği suçlulaştıran bir dil yaratıyor. Eleştirmenler, bu sınıflandırmanın işsizliği bir risk davranışı gibi çerçevelediğini ve sosyal politikanın destekleyici olmaktan çıkıp cezalandırıcı bir mantığa kaydığını belirtiyor. Algoritma, geçmiş denetim sonuçlarından öğreniyor, bu sonuçların içinde önyargılı kararlar bulunabiliyor ve model, sosyal eşitsizlikleri dijital olarak yeniden üretebiliyor. Bu nedenle ‘şüpheli profil’ kavramı teknik bir sınıflandırmadan çok politik bir etiketleme niteliği taşıyor.

AYRIMCILIK RİSKİ

Algoritmanın en kritik yönlerinden biri, sosyal eşitsizlikleri dijital olarak yeniden üretme ihtimali taşıyor. Çünkü modelin eğitildiği veri seti geçmiş denetimlerde düşük gelirli işsizlerin, uzun süre iş arayanların, göçmen kökenli kişilerin ve düşük eğitim seviyesine sahip olanların daha sık kontrol edildiğini gösteriyorsa, sistem bu örüntüyü otomatik biçimde yeniden üretiyor ve bu durum da düşük gelirli işsizlerin riskli kategoride aşırı temsil edilmesi anlamına geliyor. Bu, açık bir stigmatizasyon yani bu gruba düşenleri damgalama riski yaratıyor ve böylece algoritmanın sosyal eşitsizlikleri dijital olarak yeniden üretebileceği yönündeki endişeler güçleniyor.

SOSYAL DEVLET Mİ, DİJİTAL GÖZETİM Mİ?

France Travail’ın denetim planıyla, yıllık 200.000 civarında olan kontrol sayısını 2027’de 1,5 milyona çıkarmayı hedefliyor ve bu artışın ancak otomatik bir algoritma ile mümkün olduğu belirtiliyor. Yıllık kontrol sayısındaki bu büyüme, işsizliğin yönetimini kitlesel bir gözetim mekanizmasına dönüştürdüğünü, denetimin destek değil kontrol işlevi gördüğünü ve iş arayanların davranışlarının sürekli izlenen bir veri akışına dönüştüğünü ifade ediyor. Bu nedenle sistem aynı zamanda politik bir gözetim genişlemesi olarak değerlendiriliyor. Öne çıkan en kritik noktalardan biri ise, sosyal yardım kurumu RSA’dan faydalananların France Travail’a kayıt zorunluluğu nedeniyle sistemin 6 milyondan fazla kişiyi kapsaması. Bu genişleme veri havuzunu büyütüyor, algoritmanın etki alanını genişletiyor, denetim kapasitesini katlıyor ve sosyal yardım alanları da gözetim mekanizmasına dahil ediyor. Böylece işsizliğin yönetimi ile sosyal yardımın yönetimi arasındaki sınır bulanıklaşıyor.  26 değişkenli değerlendirme listesi, algoritmanın şüpheli profili nasıl ürettiği, RSA zorunlu kaydının yarattığı dev veri havuzu, gözetim genişlemesi tartışması ve insan denetiminin azalması sonucunda da, teknik detayın yaratacağı ciddi bir politik risk oluşuyor.

ETİK, POLİTİK VE TOPLUMSAL KIRILMA NOKTASI

France Travail’ın yapay zeka sistemi, sosyal devletin mantığını dönüştüren bir yapıyla çalışması, işsizliğin yönetimi destekleyici bir politikadan çıkıp risk yönetimi anlayışına kayması sonucunu doğurmuş oldu. İş arayanlar yardım alan bireyler olmaktan uzaklaşıp algoritmanın izlediği davranış nesnelerine dönüşüyor ve yapay zeka sosyal politikanın yerine dijital bir gözetim aracı olarak konumlanıyor. Tüm bunlar, Fransa’da işsizliğin yönetiminde etik, politik ve toplumsal bir kırılma noktası yarattı. Endişe verici olansa, hala büyük gündemlerle bu konu tartışılırken,  denetim ekipleri artık algoritmanın ürettiği sıralamaya göre hareket ediyor. Yani, yeniden alevlenmiş olan bu tartışmalar, Fransa’daki uygulanıyor olan ve hataları büyük riskler taşıyan sistemin, kamuoyu tartışmalarına rağmen hiçbir fren mekanizması olmadan işlemeye devam etmesi, sosyal devlet açısından alarm verici bir tablo yaratıyor.