Yapay zeka modelleri, çalışanların verimliliğini artırma potansiyeli taşısa da kontrolsüz kullanım şirketler için ciddi sorunlara yol açabiliyor. Müşteri bilgilerinin ifşa edilmesi, gerçeği yansıtmayan istatistiklerin yayımlanması ve hatalı kararlar alınması, bu risklerin başında geliyor.
Bu tür sorunların önüne geçmek için şirketlerin yapay zeka araçlarını kullanıma açmadan önce kapsamlı yönetim politikaları oluşturması gerekiyor.
Bordro ve insan kaynakları hizmetleri sunan Paper Trails'in Başkanı Chris Cluff, şirketlerinin yalnızca lisanslı yapay zeka araçlarına izin verdiğini, kişisel ChatGPT hesapları gibi onaylanmamış ürünlerin ise güvenlik duvarında engellendiğini belirtti.
Cluff, şirket içinde kullanılan her yapay zeka otomasyonunun önceden kayıt altına alındığını ve kullanım süreçlerinin kaydedildiğini aktardı. Ayrıca çalışanların, onaylanmış araçlar dahil hiçbir yapay zeka sistemine şifre girmesine izin verilmediğini söyledi.
Eğitim ve denetim, riskleri erkenden ortaya çıkarıyor
Paper Trails, çalışanların yapay zekayı doğru kullanmayı öğrenmesi için şirket içi bir eğitim programı hazırladı. Çalışanların Claude adlı yapay zeka aracına erişebilmesi için şirket politikalarını okuyup kabul etmesi de zorunlu tutuldu.
Şirket, araçlara erişimi sınırlandırmanın yanı sıra kullanım biçimlerini de takip ediyor. Cluff, bu denetimlerin olası bir hatayı önlediğini belirterek şirketin vergi müdürünün Claude üzerinden bordro yazılımında değişiklik yapmasının engellendiği bir örneği paylaştı.
İlk aşamada oldukça sıkı kurallar uyguladıklarını belirten Cluff, elde edilen sonuçlar doğrultusunda bazı kısıtlamaları kademeli olarak gevşettiklerini ifade etti. Hassas verilere erişebilecek uygulamaların ise kullanıma alınmadan önce incelendiğini ve ek güvenlik önlemleriyle desteklendiğini kaydetti.
Bu yaklaşım, şirketlerin sorun ortaya çıktıktan sonra önlem almak yerine riskleri önceden belirlemesinin önemini gösteriyor.
Yapay zeka kaynaklı krizlere karşı hazırlık yapılmalı
Yapay zeka kullanımındaki hatalar, yalnızca teorik bir risk değil. Profesyonel hizmetler şirketi KPMG, geçen haziran ayında yayımladığı bir raporu, belgede çeşitli hatalı ve uydurma bilgilerin bulunduğunun ortaya çıkmasının ardından geri çekti.
TechCrunch'ın aktardığına göre GPTZero araştırma ekibi, Ekim 2025'te yayımlanan raporda bir dizi yanlışlık tespit etti. Financial Times'a yapılan açıklamada, hataların yapay zeka halüsinasyonlarından kaynaklandığı belirtildi. Başka bir ifadeyle, yapay zeka hakkındaki bir raporda yine yapay zeka tarafından üretilen yanlış bilgiler yer almıştı.
KPMG, raporu internet sitesinden kaldırarak konuyla ilgili inceleme başlattı. Şirket sözcüsü, çalışanlardan yapay zekanın sorumlu kullanımına ilişkin kurallara uymalarını, üretilen içerikleri insan denetimiyle doğrulamalarını ve bağımsız kaynakları kontrol etmelerini beklediklerini açıkladı.
Uzmanlara göre şirketlerin kriz yönetimi planları da yapay zeka kaynaklı olası ihlalleri kapsamalı. Gizli bilgilerin açığa çıkması, hatalı bir basın açıklamasının yayımlanması veya yasa dışı bir faaliyetin gerçekleşmesi gibi senaryolar önceden değerlendirilmeli. Şirketler, bu tür olayların nasıl tespit edileceğini, hangi önlemlerin alınacağını ve müdahaleden kimin sorumlu olacağını netleştirmeli.
Her görev için aynı yapay zeka politikası uygulanmamalı
Shenandoah Üniversitesi Muhasebe Profesörü Martin Mulyadi'ye göre şirketler, yapay zeka kullanımını risk düzeyine göre sınıflandırmalı. Kamuya açık bilgilerin özetlenmesi veya fikir geliştirme gibi düşük riskli faaliyetlerle finansal raporlama, işe alım, müşteri kararları ve hassas verilerin işlenmesi gibi kritik süreçler birbirinden ayrılmalı.
Çalışanların hangi araçları kullanabileceği, hangi bilgileri sisteme giremeyeceği, yapay zeka kullanımını hangi durumlarda açıklaması gerektiği ve nihai kararın sorumluluğunu kimin üstleneceği açıkça belirlenmeli.
Mulyadi, araçlar veya iş akışları değiştiğinde hataların bildirilmesi, belirsiz sonuçların üst yönetime iletilmesi ve erişim yetkilerinin yeniden değerlendirilmesi için de basit ve işleyen süreçler oluşturulması gerektiğini vurguladı.
İnsan denetiminin etkili olabilmesi için incelemeyi yapan kişinin yeterli bilgiye, zamana ve yetkiye sahip olması gerekiyor. Yapay zekanın ürettiği bir sonucu anlamadan onaylamak, denetimin amacını ortadan kaldırabiliyor.
Yapay zekanın sorumluluğu insanlarda kalmalı
Yapay zeka yönetişimi alanında faaliyet gösteren Trustible'ın Teknoloji Direktörü ve kurucu ortağı Andrew Gamino-Cheong, çalışanların yalnızca yetkin oldukları alanlarda yapay zekadan yararlanmasını savunuyor.
Gamino-Cheong'a göre insan kaynakları çalışanlarının kod yazması veya mühendislerin işe alım yönergelerini belirlemesi gibi örnekler, çalışanların uzmanlık alanlarının dışında yapay zeka kullanmasının doğurabileceği sorunları gösteriyor. Temel amaç, yapay zeka tarafından üretilen sonuçları denetleyen kişilerin bu sonuçları değerlendirebilecek bilgi ve beceriye sahip olmasını sağlamak.
Proje Yönetimi Enstitüsü Yapay Zeka Etkileşimi ve Topluluğu Direktörü Kathleen Walch ise şirketlerin politikalarını belirli bir araca veya teknolojinin mevcut yeteneklerine göre şekillendirmemesi gerektiğini belirtti. Bunun yerine veri koruma, insan sorumluluğu, uygun denetim ve risk yönetimi gibi uzun vadede geçerliliğini koruyacak ilkelerin esas alınmasını önerdi.
Walch'a göre yapay zeka tarafından üretilen içeriğin doğruluğunu, uygunluğunu ve olası sonuçlarını değerlendirme sorumluluğu çalışanlarda kalıyor. Teknolojiden yararlanmak, yapılan işin sonuçlarına ilişkin sorumluluğu yapay zekaya devretmek anlamına gelmiyor.
Politikalar düzenli olarak güncellenmeli
Şirketlerin yapay zeka politikalarını yalnızca yazılı hale getirmesi yeterli değil. Kuralların çalışanlarla düzenli olarak paylaşılması, gözden geçirilmesi ve yeni işe başlayanlara aktarılması da gerekiyor.
Çalışanların kuralları daha iyi anlaması için gerçek hayattan örnekler ve olası senaryolar üzerinden eğitimler verilmesi öneriliyor. Bu eğitimlerde yetkisiz veri paylaşımı, müşteri gizliliği ve şirketlere ait özel bilgilerin korunması gibi konular ele alınmalı.
Proje Yönetimi Enstitüsü de proje, program ve portföy yönetiminde yapay zeka kullanımına yönelik bir standart hazırladı. Standart; sorumlu kullanım ilkelerinin yanı sıra yapay zeka çıktılarının incelenmesine, bu çıktılara dayanarak karar alınmasına ve etik ile hukuki risklerin yönetilmesine ilişkin çerçeve sunuyor.
Şirketlerin yapay zeka politikalarını yılda en az bir kez gözden geçirmesi, yeni araçlar eklendiğinde veya mevcut sistemler güncellendiğinde kuralları yeniden değerlendirmesi gerekiyor. Ayrıca olası bir hata kamuoyuna yansıdığında kullanılabilecek, önceden onaylanmış bir açıklama taslağının hazır bulundurulması kriz yönetimini kolaylaştırabilir.
Yapay zeka kullanımından sorumlu olacak kişilerin belirlenmesi, güvenlik önlemlerinin düzenli olarak test edilmesi ve çalışanlardan geri bildirim alınması da bu sürecin önemli parçaları arasında yer alıyor. Uzmanlara göre amaç, teknolojinin kullanımını tamamen kısıtlamak değil; verimlilik avantajlarından yararlanırken güvenlik, doğruluk ve hesap verebilirlik ilkelerini korumak.