Gölge yapay zeka: iş yerinde onaysız yapay zeka araçlarının riskleri
CyberLord Güvenlik Ekibi Yazar profili
Gölge yapay zeka çoğu zaman bir politika ihlali olarak değil, bir çözüm olarak başlıyor. Pazarlama ekibinden biri kampanya metnini hızlandırmak için müşteri listesini sohbet penceresine yapıştırıyor; geliştirici tıkandığı hatada şirket kodunu çevrim içi bir asistana bırakıyor. Hiçbiri kötü niyetli değil; sorun, verinin artık şirketin denetim alanının dışında işlenmesi.
Gölge yapay zeka, çalışanların BT veya güvenlik ekibinin bilgisi ve onayı olmadan yapay zeka araçlarını ve dil modellerini iş süreçlerinde kullanmasıdır. Gölge BT'nin alt kümesi gibi görünse de risk profili farklı; çünkü veri yalnızca başka bir sunucuda durmuyor, modelin eğitim hattına girme ihtimali taşıyor.
Bu yazı gölge yapay zekanın somut risklerini ve bunları yasak koymadan yönetmenin yolunu anlatıyor. Amaç çalışanı gözetlemek değil, veri akışını görünür kılmak ve sözleşmelere uygun bir kullanım zemini kurmak.
Gölge yapay zeka nedir, gölge BT'den nerede ayrılır
Gölge BT onaysız dosya paylaşım servisleri, kişisel bulut hesapları ya da satın alma sürecinden geçmemiş uygulamalardır. Gölge yapay zeka aynı davranışın model tabanlı hâlidir. Üç fark savunma açısından belirleyici:
- Kalıcılık: yanlış yerde duran dosya silinebilir; modele giren metin, çıktı üretiminde kullanıldıysa geri alınamaz.
- Ölçek: tek bir kopyalama yüzlerce kaydı taşır, hangi alanların gittiğini kimse kaydetmez.
- Görünürlük: gölge BT'de ağ trafiği iz bırakır; tarayıcı sekmesindeki asistanda çoğu zaman yalnızca şifreli bir bağlantı görünür.
Neden bu kadar hızlı yayıldı
Araçların çoğu bireysel kullanım için tasarlandı: kredi kartıyla abonelik, tek tıkla giriş, eğitim gerektirmeyen arayüz. Kurumsal onay ise güvenlik incelemesi, veri işleme sözleşmesi ve lisans görüşmesi gerektiriyor. Aradaki süre farkı kapandığında çalışan kendi çözümünü çoktan bulmuş oluyor.
İkinci neden ölçüm eksikliği: envanteri olmayan politika yalnızca onu yazanın niyetini anlatır. Üçüncüsü teşvik yapısı; yöneticiler hızı ödüllendiriyor, güvenlik ekibi yavaşlattığı için algılanıyor. Aynı mekanizma sosyal mühendislik saldırılarında da işliyor: çalışanı suçlamak yerine süreci tasarlamak gerekiyor.
Birinci risk: veri sızıntısı ve fikri mülkiyet kaybı
Tüketici sürümü bir asistana yazılan bilgi pratikte kurumun kontrolünden çıkar. Sözleşme verinin eğitimde kullanılmayacağını söylese bile saklama süresi, alt işleyici listesi ve yargı yetkisi çoğu zaman okunmadan kabul edilir.
En sık taşınan veri grupları şunlar:
- Kaynak kodu ve mimari notları: hata ayıklama için yüklenen kod ticari sır niteliği taşıyabilir.
- Müşteri verisi: ad, iletişim bilgisi ve satın alma geçmişi, veri işleme sözleşmesi olmayan araçta sorumluluğu sağlayıcıya değil veri sorumlusuna bırakır.
- Finansal projeksiyonlar ve birleşme planları: kamuya açıklanmamış bilgi sözleşme ihlali ve içeriden öğrenme riski doğurur.
- Hukuki yazışmalar: avukat görüşme notlarının üçüncü taraf araca yüklenmesi mesleki gizliliği zedeleyebilir.
Samsung örneği ve çıkarılacak ders
2023'te Samsung mühendislerinin hata ayıklama amacıyla dahili kaynak kodunu bir sohbet asistanına yapıştırması kurumsal hafızaya yerleşti. Şirket sonrasında tüketici sürümünü yasakladı ve iç altyapısına yatırım yaptı. Ders yasağın kendisi değil; olay sonrası kurulan yapının, olay öncesinde kurulabilecekken çok daha pahalıya mal olması.
İkinci risk: mevzuat ve sözleşme ihlalleri
Onaysız araca kişisel veri girmek çoğu durumda teknik bir hata değil, doğrudan uyum ihlalidir. Türkiye'de 6698 sayılı KVKK kapsamında yurt dışına veri aktarımı uygun güvence mekanizmalarına ve bildirim yükümlülüğüne bağlıdır. GDPR, yeterlilik kararı veya standart sözleşme hükümleri olmadan yapılan aktarımları ihlal sayar. Sağlık verisinde, iş ortaklığı sözleşmesi olmayan araca hasta verisi yüklemek bildirime tabi ihlaldir.
Gri alan yok. Tüketici sürümü araçların kullanım koşulları, düzenlemeye tabi sektörlerin ihtiyaç duyduğu saklama ve denetim taahhütlerini genellikle açıkça reddeder. Sözleşmeyi imzalamamış olmak sorumluluğu ortadan kaldırmaz.
Üçüncü risk: halüsinasyon ve doğrulanmamış çıktı
Model, doğru olup olmadığına bakmadan akıcı ve ikna edici metin üretir. Çalışan çıktıyı kontrol etmeden kullandığında hata kurumun kararına dönüşür:
- güvenlik açığı içeren kod, inceleme olmadan üretime çıkar
- sözleşme metni var olmayan bir mevzuat maddesine atıf yapar
- yönetim sunumundaki rakam hiçbir kaynağa dayanmaz
- dokümantasyondaki komut, çalıştırıldığında sistemi bozar
Sorumluluk, kullanım koşulları ne yazarsa yazsın çıktıyı kullanan kuruluşta kalır; doğrulama adımı süreç tasarımının parçası olmalı.
Dördüncü risk: hesap verebilirlik boşluğu
Yapay zeka destekli bir karar, örneğin bir başvurunun reddi, hukuki olarak sorgulandığında kurumun elinde açıklanabilir bir kayıt bulunması gerekir. Gölge kullanımda bu kayıt yoktur: hangi model, hangi sürüm, hangi istem, hangi veri. Denetim izi olmadan verilen sonucun nedeni anlatılamaz ve ilgili kişi hakları kapsamındaki yükümlülük ağırlaşır.
Beşinci risk: tedarik zinciri ve model zehirleme
Açık kaynak platformlardan indirilen ince ayarlı modeller kaynağı doğrulanmadan kullanılabiliyor. Böyle bir model, üretilen kodda fark edilmesi zor bir zafiyet bırakacak biçimde eğitilmiş olabilir. Risk sınırlı ölçekte görülse de çıktıyı doğrulamadan üretime alan ekipler için gerçek bir saldırı yüzeyi. Saldırgan davranışlarının hangi aşamada ortaya çıktığını anlamak için TTP rehberimiz iyi bir başlangıç.
Yönetişim çerçevesi nasıl kurulur
Yasak en pahalı ve en az etkili seçenektir: çalışan ihtiyacını çözmeye devam eder, sadece görünmez olur. Bunun yerine görünürlük, sınıflandırma ve onaylı alternatif üçlüsüne dayanan bir çerçeve gerekir.
Envanter: neyin kullanıldığını görün
Bulut erişim güvenlik aracı trafikteki yapay zeka servislerini listeler; uç nokta yönetimi tarayıcı eklentilerini çıkarır; DNS ve proxy kayıtları hedef alan adlarını gösterir. Bu verileri üç aylık envanterle birleştirin. Anonim çalışan anketi ise hangi işin hızlandırılmak istendiğini gösterir.
Veri sınıflandırması
Her veri aynı riski taşımıyor. Dört kademeli ayrım çoğu kuruma yeter:
- Kamuya açık: pazarlama metni, yayımlanmış dokümantasyon; her araçta kullanılabilir
- İç kullanım: süreç notları, hassas olmayan analizler; yalnızca kurumsal lisanslı araçlarda
- Gizli: müşteri verisi, finansal tablolar, sözleşmeler; yalnızca özel veya kendi altyapınızda çalışan modellerde
- Kısıtlı: kaynak kod, birleşme bilgisi, hukuki gizlilik taşıyan belgeler; açık onay olmadan hiçbir araçta
Tablo, karar anında yargı yükü bindirmez; bakıp uygulanacak tek kural bırakır.
Kabul edilebilir kullanım politikası
Politika kısa olmalı: onaylı, koşullu ve yasak araçlar, veri kademeleriyle ilişkisi, yasak senaryolar ve ihlal sonuçları. Kırk sayfalık belge okunmaz; tek sayfalık karar ağacı okunur.
Onaylı alternatifler ve sürtünme
Gölge kullanımın motoru verimlilik. Kurumsal lisanslı asistan, verinin eğitimde kullanılmadığı ve kiracılık sınırları içinde kaldığı garantisini verir; kendi altyapınızda çalışan açık modeller ise üçüncü taraf maruziyetini tümüyle kaldırır. Kritik nokta erişim kolaylığı: güvenli seçenek beş adımlı sağlama süreci gerektirirken riskli seçenek tarayıcıda anında çalışıyorsa çalışan riskli olanı seçer.
NIST AI RMF nerede devreye girer
NIST'in 2023'te yayımladığı çerçeve dört işlev üzerinden ilerler: yönet, haritala, ölç ve yönet. Gölge yapay zeka açısından karşılığı nettir: roller tanımlanır, kullanımdaki sistemler envantere alınır, risk etki kategorilerine göre değerlendirilir ve kontroller izlenir. Gönüllü bir çerçeve olsa da denetimlerde ortak dil sağladığı için savunma tarafında işi kolaylaştırır.
Türkiye'de KVKK ve sektörel beklentiler
Türkiye'de iki katmanlı yükümlülük var. Birincisi KVKK: işleme amacı, saklama süresi, yurt dışı aktarım şartları ve ihlal bildirimi. İkincisi sektörel düzenlemeler: bankacılık, sağlık ve enerji gibi alanlarda hizmet sağlayıcı denetimi ve dış hizmet kullanımına ilişkin ek şartlar. En sık hata, aracı sıradan bir yazılım sayıp veri işleyen sözleşmesi imzalamamak. Araç hizmet olarak sunuluyorsa işleyen zinciri ve aktarım mekanizması yazılı olmalı.
Sık sorulan sorular
Gölge yapay zeka ile gölge BT arasındaki fark nedir? Gölge BT onaysız her teknolojiyi kapsar; gölge yapay zeka bunun model tabanlı alt kümesidir. Fark, verinin başka yerde durması değil, işlenmesi ve modelin sonraki sürümlerini etkileyebilmesidir.
İş yerinde sohbet asistanı kullanmak KVKK ihlali midir? Kullanılan veriye bağlı. Kamuya açık bilgiyle fikir üretmek sorun oluşturmaz; kişisel veriyi uygun aktarım mekanizması olmadan işlemek ihlaldir.
Çalışan mahremiyetini ihlal etmeden kullanım nasıl tespit edilir? Cihazdaki kişisel etkinliği izlemek yerine ağ seviyesinde çalışın. Bilinen uç noktalara giden bağlantıları görmek güvenlik önlemidir; izleme politikasında tanımlanması yeterlidir.
Yasaklamak yerine ne yapmalı? Önce envanter, sonra sınıflandırma, ardından hızlı erişilebilen onaylı araç. Yasak kullanımı görünmez kılar; görünmez kullanım yönetilemez. Çalışan ayrılış kontrol listesi de aynı yaklaşımın temel adımlarını verir.
Sonuç
Gölge yapay zeka bir suç değil, yönetişimin hızının çalışanın hızının gerisinde kaldığının göstergesi. 2026'da güvenlik liderlerine düşen iş yapay zekayı durdurmak değil; hangi verinin hangi araçta işlenebileceğini netleştiren, denetlenebilir ve çalışanın uyacağı bir çerçeve kurmak.
Kurumunuzda yapay zeka kullanımını görünür kılmak ve uygulanabilir bir politika taslağı çıkarmak için ekiple görüşün.