Yeni Çağın En Büyük Riski: Dijital Özgüven

İlk bakışta suçlu belli gibi görünüyor: Yapay zekâ.

Oysa mesele bundan çok daha derin.

Yıllardır kurumlarda kalite, yalın yönetim ve süreç geliştirme çalışmaları yaparken öğrendiğim önemli bir gerçek var: Hata çoğu zaman araçta değil, aracın nasıl kullanıldığında gizlidir.

Bugün birçok kişi yapay zekâyı bir danışman, uzman ya da nihai karar verici gibi görüyor. Oysa yapay zekâ ne avukattır, ne doktordur, ne de yönetici. O sadece elindeki verilerden olasılıklar üreten son derece gelişmiş bir sistemdir.

Sorun da tam burada başlıyor.

İnsanlar bir arama motorundan cevap beklemeye alışkındır. Yapay zekâ ise çoğu zaman cevap vermek için tasarlanmıştır. Cevabı kesin olarak bilmese bile boş bırakmak yerine en olası cevabı üretmeye çalışır. Bazen de bu süreçte hiç var olmayan mahkeme kararları, kaynaklar veya referanslar oluşturabilir.

Yapay zekâ dünyasında buna “halüsinasyon” deniyor.

Aslında bu olay bana teknolojiden çok insan davranışlarını düşündürüyor. Çünkü tarih boyunca her yeni teknolojide benzer bir heyecan yaşandı. Hesap makineleri geldiğinde matematik unutulacak dendi. Navigasyon sistemleri çıktığında insanlar harita okumayı bıraktı. Şimdi ise bazı insanlar düşünme ve doğrulama sorumluluğunu yapay zekâya devretmeye başladı.

Oysa yapay zekâ çağında en değerli yetkinlik bilgiye ulaşmak değil, bilginin doğruluğunu sorgulamak olacak.

Belki de bu olayın bize verdiği en önemli ders şu:

Yapay zekâya güvenebiliriz.

Ama onu denetlemekten asla vazgeçemeyiz.

Çünkü gelecekte başarıyı belirleyecek olan şey yapay zekâyı kullanmak değil, yapay zekâ ile birlikte doğru düşünebilmektir.