Sağladığı hız, verimlilik, farklı türlerde veri işleyebilme ve insan tarafından üretilenlere benzer içerikler oluşturabilme gibi özellikleri nedeniyle artık iş yaşamında neredeyse herkes Üretken Yapay Zeka araçlarını kullanıyor. Metin hazırlama, özetleme, araştırma desteği ve toplantı notu oluşturma gibi amaçlarla kullanılan bu üretken yapay zeka araçları çoğunlukla üçüncü taraflarca sunulan, kamuya açık sistemler üzerinden gerçekleşiyor. Ancak bu yaygınlık ve erişim kolaylığı, henüz yerleşik bir düzenleyici çerçevenin bulunmaması nedeniyle riskleri de büyütüyor.
Kişisel Verileri Koruma Kurumu, bu çerçevede, iş yaşamında üretken yapay zeka kullanımının giderek belirginleşen tehlikelerine dikkat çeken bir doküman yayımladı. “İş Yerlerinde Üretken Yapay Zekâ Araçlarının Kullanımı” başlıklı dokümanla Kurum; üçüncü taraflarca sunulan ve kamuya açık olarak erişilebilen bu araçların kullanımına ilişkin genel bir çerçeve sunmayı, farkındalık oluşturmayı ve bilinçli kullanımı teşvik etmeyi amaçladığını vurguladı. Doküman üç bölümden oluşuyor. İlk bölümde kavramsal çerçeve çiziliyor, ikinci bölümde kontrolsüz kullanımın riskleri ele alınıyor, üçüncü bölümde ise riskleri bertaraf etmeye yönelik olarak dikkat edilmesi gereken hususlar sıralanıyor.
Gölge Yapay Zeka ve kontrolsüz kullanımın riskleri
Çalışanların; şirketlerinin bilgisi, onayı veya denetimi dışında üretken yapay zeka araçlarını kullanmasına “Gölge Yapay Zeka” deniyor. Bu kullanım biçimi; hangi araçların, hangi amaçlarla ve hangi verilerle kullanıldığının kurumsal denetim dışında kalmasına yol açıyor. Hız, verimlilik, düşük maliyet avantajları ile kurumsal politika eksikliği Gölge Yapay Zeka eğilimini her geçen gün daha da güçlendiriyor.
Kişisel Verileri Koruma Kurumuna göre Gölge Yapay Zeka artık birçok şirket için istisnai bir risk değil, günlük iş akışlarının parçası haline gelmiş bir olgu olarak öne çıkıyor. Bu durum, hukuki yükümlülüklere uyumu zorlaştırdığı gibi olası ihlallere zamanında ve etkin müdahaleyi de güçleştiriyor.
Kurum, şirketlerin denetim mekanizmalarına tabi olmayan üretken yapay zeka aracı kullanımının başlıca risklerini şu şekilde özetliyor:
➢ Denetlenebilirlik ve hesap verebilirlik riskleri:
Veri kullanımının kapsamı ve kararların dayanaklarının izlenmesi güçleşir. Bu durum, hem denetim süreçlerini hem de mevzuata uyumun ispatını zorlaştırır.
➢ Karar kalitesi ve doğruluk riskleri:
Denetimden geçmeyen yapay zeka çıktıları hatalı, yanıltıcı veya önyargılı olabilir. Bu çıktılara dayanılarak alınan kararlar iş süreçlerinde aksamalara yol açabiliyor.
➢ Fikri mülkiyet ve ticari sır riskleri:
Kaynak kod, ürün tasarımları, iş stratejileri veya benzeri hassas bilgilerin harici yapay zeka araçları ile paylaşılması; fikri mülkiyet haklarının ihlali ile bu bilgilerin açığa çıkması veya kontrolünün kaybedilmesi sonucunu doğurabiliyor.
➢ İtibar ve güven riskleri:
Doğrulanmamış içeriklerin kullanılması, hatalı bilgilendirme yoluyla kurumsal güvenilirliği zedeleyebiliyor.
➢ Bilgi güvenliği ve siber güvenlik riskleri:
Kontrolsüz kullanım, saldırı yüzeyini genişletebiliyor; yetkisiz erişim, veri kaybı ve zararlı yazılım gibi siber güvenlik risklerini artırabiliyor.
➢ Kişisel verilerin korunmasına ilişkin riskler:
Kişisel verilerin kurumsal denetim dışındaki üretken yapay zeka araçları ile paylaşılması; hukuka aykırı işleme, yetkisiz erişim ve veri ihlali risklerini artırabiliyor.
KVKK’ya göre Üretken Yapay Zeka kullanımında dikkat edilmesi gerekenler
Kişisel Verileri Koruma Kurumu, üretken yapay zeka araçlarının tamamen yasaklanmasına dayalı yaklaşımların pratikte etkili olmadığını, aksine kontrol dışı kullanımı teşvik edebileceğini belirtiyor. Bu nedenle yasaklayıcı yaklaşımlar yerine yönlendirici, dengeli ve farkındalık temelli politikalar benimsenmesi gerektiğini vurguluyor.
Kurum, bu çerçevede iş yerlerinde üretken yapay zeka araçlarının kullanılmasında dikkate alınabilecek hususları şöyle sıralıyor:
➢ Kurum içinde açık bir kullanım politikası oluşturulmalıdır.
➢ Kişisel veriler ve hassas bilgiler mümkün olduğunca paylaşılmamalı; gerekli durumlarda anonimleştirilmiş ve genelleştirilmiş ifadeler tercih edilmelidir. Özellikle sağlık verileri, finansal bilgiler, hukuki süreçlere ilişkin bilgiler söz konusu yapay zeka araçları ile etkileşimde çok daha temkinli hareket edilmelidir.
➢ Yapay zeka çıktıları doğruluk, uygunluk ve bağlam açısından denetlenmeden doğru kabul edilmemeli, insan değerlendirmesi korunmalıdır.
➢ Veri güvenliği ve erişim kontrolleri sağlanmalı; kontrol dışı kullanım biçimlerinin azaltılması için yalnızca yetkilendirilmiş araçların kullanımına izin verilmeli ve çalışanlar için rol bazlı erişim modelleri benimsenmelidir.
➢ Harici platformlara erişim, cihaz ve kullanıcı bazında sınırlandırılmalıdır.
➢ Çalışanlara yönelik eğitim ve farkındalık çalışmaları yürütülmelidir.
Sonuç olarak, Kişisel Verileri Koruma Kurumuna göre üretken yapay zeka araçlarının iş yerlerinde kullanımın; etik, hukuki ve teknik boyutlarıyla birlikte ele alınması, risk temelli ve bütüncül bir yaklaşımla yönetilmesi gerekiyor. İş dönüp dolaşıp, “yapay zekanın babası” olarak anılan Geoffrey Hinton’ın da çok kereler uyardığı üzere, yapay zekanın sorumlu kullanımına gelip dayanıyor.
Bağlantılar: