Eczacı/Adli Bilişim Uzmanı Fatma Şeyma Alabay
DİJİTAL VİCDAN
Türk Dil Kurumu’nun 2025 yılı için yılın kelimesi olarak yaklaşık 300 bin oyla belirlediği “dijital vicdan” kelimesi, teknolojinin insan hayatına etkilerini etik ve psikolojik boyutta sorgulamanın bir yansımasıydı. Bu seçim, bir önceki yılın “kalabalık yalnızlık” kavramından farklı olarak, dijital dünyada sorumluluğun nerede başlayıp nerede bittiğine dair toplumsal bir sorgulamayı beraberinde getirdi.
Dünyaya baktığımızda aynı yıl Oxford’da “rage bait” (öfke yemi), Cambridge’de “parasocial” (parasosyal ilişki), Merriam-Webster’da “slop” (yapay zekâ çöpü) yılın kelimesi seçilirken, TDK’nın tercihi küresel bir gerçeği de yansıtıyordu: “Dijital çağda vicdan, sorumluluk ve eylemden uzaklaşıyor mu?”
Bu noktada kavramı daha iyi anlamak için her şeyin başladığı o noktadan konuyu ele alalım. Yapay zeka, hayatımızın her alanında yer alan bir teknoloji haline geldi. Bu denli yaygın kullanımı da (Sağlık hizmetleri, enerji, üretim, haberleşme ve araştırma gibi), beraberinde ciddi riskler meydana getirdi. Bu risklerin düzenlenmesi adına oluşturulmaya başlanan ve Nisan 2021’de Avrupa Komisyonu tarafından tanıtılan Yapay Zekâ Yasası (AI Act), yapay zeka sistemlerini risklerine göre sınıflandırarak analiz etmekte ve bu risk seviyelerine göre uygulanacak düzenlemeleri belirlemektedir. AB Yapay Zekâ Yasası, dünyada yapay zekanın düzenlenmesi adına atılan ilk adım olması sebebiyle önem arz etmektedir.
Gelgelelim peki bu yasa neden tam da 2021’de ortaya çıktı? Hukuk, rijit bir yapıya sahipken; teknoloji ise sürekli ilerleyen, dönüşen ve süregelen bir alandır. Hukuk, teknoloji takip ederek yeni yasal düzenlemelerin somut yapısını oluşturur. Önce bir teknoloji hayatımıza girer, kullanılır, sonra bir yerlerde sürtüşmeler, mağduriyetler, hatta suçlar yaşandıktan sonra bunun hukuki boyutu için gerekli altyapı oluşur. Bu durum yapay zeka için de tam olarak böyle oldu. 2021’den önce, algoritmaların doğrudan rol oynadığı olaylar yaşanmıştı. Bu vakalar, Avrupa Birliği’ni harekete geçirdi. Amaç, suç işlendikten sonra değil, bir daha işlenmeden önce kuralları koymaktı.
Avrupa Birliği’nin Yapay Zekâ Yasası (AI Act), yüksek riskli sistemler için insan gözetimini zorunlu kılıyordu. Yani yapay zeka ne kadar “akıllı” olursa olsun, nihai karar insana aitti. Bu aynı zamanda hukuk tarihinde yeni bir şey de değildi. Şöyle ki; Roma hukukunda herkes hukukun öznesi değildi; biyolojik olarak insan olan köleler, hukuki kişiliğe sahip değildi ve yaptıkları işlerden sorumlu tutulmazlardı. Sorumluluk, onları çalıştıran sahiplerine aitti. Günümüzde yapay zeka için de benzer bir durum söz konusu. Algoritma karar veriyor gibi görünse de, hukuki ve etik sorumluluk insan aktöründe kalıyor. Yapay zeka, tıpkı Roma hukukundaki köle gibi, bir “araç” statüsünde. Onun eylemlerinden sorumlu olan, onu tasarlayan, eğiten, kullanan ve denetleyen bizlerde kalıyor.
Dijital vicdan derken de, bu insani bir vicdan mı, yoksa yetki bizim elimizdeyken AI’yı sadece bir araç olarak görmek mi? Cevap, yapay zekânın hukuki statüsünde saklı.
Avrupa Yapay Zekâ Yasası’nın getirdiği “insan gözetimi” zorunluluğu, aslında Roma hukukundan beri süregelen bir ilkenin dijital çağa uyarlamasıydı. Araç, amacı belirlemez; amacı belirleyen, aracı kullanandır. Yapay zekâ, insanın kararını kolaylaştıran bir araçtır, karar verici değil. Dijital vicdan
ise, bu aracın önerilerini sorgulamak, veri kaynağını bilmek, hata payını hesaba katmak ve nihai sorumluluğu üstlenmek demektir.
Peki bu eczacılık pratiğinde ne anlama geliyor? Bugün eczane otomasyonları sadece stok takibi yapmıyor. Reçeteleri analiz ediyor, ilaç etkileşimlerini uyarıyor, bazı sistemler hastanın geçmiş tedavilerini tarayıp klinik karar destek önerileri sunuyor. Bu sistemlerin her biri, milyonlarca veriyle eğitilmiş algoritmalarla çalışıyor. Algoritma bir hata yaptığında, örneğin iki ilacın ciddi etkileşimini gözden kaçırdığında, sorumluluk kime ait? Yapay zekaya mı? Onu eğiten veri setini hazırlayan firmaya mı? Yoksa o uyarıyı sorgulamadan geçen eczacıya mı?
İşte dijital vicdan tam da bu noktada devreye giriyor ve bize üç temel sorumluluğu hatırlatıyor:
Öncelikle sorgulama sorumluluğu; sistemin önerisini körü körüne kabul etmemek, “otomasyon yanlılığına” kapılmamak, bir algoritma “risk yok” dese bile etkileşim tablolarını kontrol etmeden geçmemek gerekiyor.
İkinci olarak veri okuryazarlığı; kullandığımız sistemin hangi verilerle eğitildiğini, bu verilerin ne zaman ve hangi koşullarda toplandığını bilmek, tahmini verilerle kesin tıbbi veriler arasındaki farkı ayırt edebilmek geliyor.
Son olarak da şeffaflık talebi; eczane otomasyon sisteminde algoritmalarının nasıl çalıştığını, hangi güvenlik testlerinden geçtiğini, olası hata paylarının ne olduğunu bilmek, “kara kutu” sistemlere evet demeden, algoritmanın hangi verilerle eğitildiğini ve hangi gruplarda hata oranının yüksek olduğunu bilmek gerekiyor. Bu üç sorumluluk, bilgi çağında mesleğimizin gerekliliği haline gelmiştir.
Avrupa Yapay Zekâ Yasası’na tekrar dönecek olursak yasanın getirdiği “insan gözetimi” zorunluluğu, aslında Roma hukukundan beri süregelen bir ilkenin dijital çağa uyarlamasıdır. Araç, amacı belirlemez; amacı belirleyen, aracı kullanandır.
Yapay zeka, eczacının kararını kolaylaştıran bir araçtır, karar verici değildir. Dijital vicdan ise, bu aracın önerilerini sorgulamak, veri kaynağını bilmek, hata payını hesaba katmak ve nihai sorumluluğu üstlenmek demektir.
Yapay zekanın önerilerini sorgulamak, veri kaynağını bilmek, hata payını hesaba katmak, dijital çağda mesleğimizin en temel becerisi haline geliyor. Dijital vicdan, bir tıklamadan ibaret değil. Yapay zekaya vicdan yüklemek, onu sorumlu tutmak, aslında kendi vicdanımızı devretmekten de başka bir şey değil.
Gerçek hayatta, eczanemizde bir reçeteyi onaylarken, bir ilaç etkileşimini değerlendirirken, bir hasta danışmanlığı yaparken sergilediğimiz bir mesleki duruşun adı aslında. Dijital vicdan, teknolojiye duyulan güvenle mesleki bağımsızlık arasında kurulacak ince dengenin adı. Ve bu duruşu belirleyecek ve dengeyi kuracak olan, ne algoritmalar ne de yasalar...
Sadece biziz.
Turan, T. (2024). Dijital vicdan: yapay zekâ çağında etik. Afyonkarahisar: Yaz Yayınları. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
Katruff, C. S. (2023). Roma Hukukunda Kölelik Kavramıyla Günümüzdeki Yapay Zekâ Kavramının Haksız Fiil Hukuku Bakımından Karşılaştırılması (Doctoral dissertation, Ankara Universitesi (Turkey)).
