Eğitimde yapay zekânın entegrasyonunda etik yaklaşımlar: şeffaflık puanlarını tahmin etmek için yeni bir derin sinir ağı çerçevesi

Öğrenciler ve öğretmenler için neden önemli

Dünyadaki sınıflar, ödevleri notlandırmak, ders önermek ve yardıma ihtiyaç duyabilecek öğrencileri işaretlemek için hızla yapay zekâ araçlarını benimsiyor. Ancak çoğu insan bu sistemlerin kararları gerçekte nasıl verdiğini ya da herkesle adil davranıp davranmadığını az bilir. Bu çalışma, bu tür eğitim odaklı YZ sistemlerinin ne kadar "şeffaf" olduğunu ölçmenin bir yolunu tanıtıyor ve güçlü tahminler yaparken adalet, gizlilik ve hesap verebilirliği merkeze koymayı hedefleyen yeni bir model, EduTransNet, sunuyor.

YZ kararlarının içini görmek

Makalenin özünde şeffaflık puanı adında yeni bir ölçüt var. Yalnızca tahminlerin doğruluğuna bakmak yerine yazarlar şu soruları soruyor: mantığını açıklayabiliyor muyuz, girdilerin çıktılara nasıl yol açtığını izleyebiliyor muyuz, uzman olmayanlarla kararları açıkça konuşabiliyor muyuz ve etik kurallara uyduğunu gösterebiliyor muyuz? Açıklanabilirlik, izlenebilirlik, iletişim netliği ve etik uyum olmak üzere bu dört bileşeni 0 ile 100 arasında tek bir puanda birleştiriyorlar. Yüksek puanlar, davranışı öğrenciler, öğretmenler ve yöneticiler tarafından incelenip sorgulanabilecek; kara kutuda saklanmayan YZ sistemlerini işaret ediyor.

Yeni model öğrencilerden nasıl öğreniyor

Bu fikri test etmek için araştırmacılar Pakistan’daki üç üniversiteden 2.847 öğrenciye ait veri topladı. Bilgiler yaş ve cinsiyet gibi temel demografik verilerin yanı sıra devamsızlık ve haftalık çalışma saatleri gibi çalışma davranışlarını, notları ve gizlilik endişeleri, algoritmik önyargı farkındalığı, adalet duygusu ve açıklık beklentileri üzerine anket yanıtlarını içeriyordu. Bu girdileri kullanarak EduTransNet her öğrencinin şeffaflık puanını tahmin etmeyi öğreniyor—esasen bir YZ kaynaklı kararın o öğrenci ve benzer akranlar için ne kadar şeffaf hissedileceğini kestiriyor. Önemli olarak, model en çok etkileşim ve etik algı özelliklerine dayanıyor, demografik özelliklere çok daha az güvenir; bu da modelin kim olduklarından ziyade öğrencilerin nasıl davrandığı ve hissettiği tarafından daha fazla yönlendirildiğini gösteriyor.

Güvenlik bariyerleriyle bir YZ modeli inşa etmek

EduTransNet, bu görev için özel olarak ayarlanmış bir derin sinir ağıdır. Birkaç katmanı üst üste koyarak girdi verilerini kademeli olarak sıkıştırır ve tek bir şeffaflık tahminine dönüştürür. Ancak yalnızca doğruluğa odaklanan birçok güçlü modelin aksine bu model koruyucu önlemlerle tasarlanmıştır. Eğitim süreci, bir cinsiyetin veya etnik grubun sürekli olarak diğerlerinden daha yüksek ya da daha düşük tahmin edilen puanlar almasına yol açan kalıpları açıkça cezalandırır. Yazarlar ayrıca anonimleştirme ve gürültü ekleme teknikleri kullanarak bireylerin kolayca yeniden tanımlanmasını zorlaştırırken sistemin anlamlı desenler öğrenmesine izin veren gizlilik‑yararlılık takasını formel olarak işliyorlar.

Doğruluk, adalet ve gizliliği denetmek

Ekip, EduTransNet’i üç yaygın öngörücü araçla karşılaştırdı: lineer regresyon, destek vektör regresyonu ve rastgele ormanlar. Tekrarlanan testlerde ve daha önce hiç görmediği ayrılmış bir öğrenci kümesinde EduTransNet şeffaflık puanlarındaki varyansın yaklaşık %99–100’ünü açıkladı ve diğer modellere göre çok daha küçük hatalar üretti. İstatistiksel kontroller, bu güçlü performansın yalnızca verilere özgü tuhaflıklara fazla uyum göstermediğini düşündürdü. Aynı zamanda, yerleşik araç setleriyle yapılan adalet denetimleri tahmin edilen puanların cinsiyet ve etnik gruplar arasında yakından dengelendiğini ve hata oranlarının sistematik olarak hiçbir grubu kayırmadığını gösterdi. Ayrı analizler, gizlilik önlemlerinin yeniden tanımlama riskini sınırlayacak kadar güçlü olduğunu ve yine de doğru öğrenmeyi desteklediğini doğruladı.

Gerçek sınıflar için ne anlama geliyor

Matematiğin ötesinde çalışma, böyle bir sistemin uygulamada nasıl kullanılabileceğini araştırıyor. Bir senaryoda EduTransNet akademik olarak risk altında olabilecek öğrencileri belirlemeye yardımcı olurken her risk işaretine öğretmenlerin uyarıya ne kadar güvenip nasıl açıklama yapacağını bilmesi için yüksek veya düşük şeffaflık puanı eşlik ediyor. Bir diğer senaryoda, kurs ve kariyer önerilerini desteklerken önerilerin dezavantajlı öğrencileri gizlice daha dar yollara sevk etmediğini kontrol ediyor. Politika düzeyinde ise toplulaştırılmış şeffaflık puanları, YZ kararlarının opak hissettiği okulları veya programları vurgulayarak bireyleri açığa çıkarmadan hedefe yönelik reformlara rehberlik edebilir.

Uzman olmayanlar için alınacak ders

Temel sonuç, eğitimde güçlü YZ ile sorumlu YZ arasında seçim yapmak zorunda olmadığımızdır. Şeffaflık ve adaleti sonradan eklenen unsurlar değil temel tasarım hedefleri olarak ele alan EduTransNet gibi modeller tasarlayarak geliştiriciler hem yüksek doğruluklu hem de sorgulanması, izlenmesi ve iyileştirilmesi daha kolay sistemler üretebilir. Şimdiye kadarki sonuçlar üç üniversiteden geliyor ve başka yerlerde de test edilmesi gerekiyor olsa da çerçeve, akıllı araçları kullanırken öğrenci haklarından, gizlilikten veya fırsat eşitliğinden vazgeçmek istemeyen okullar, politika yapıcılar ve YZ geliştiricileri için somut bir yol sunuyor.

Atıf: Alotaibi, R.M., Alnfiai, M.M., Alotaibi, N.N. et al. Ethical considerations in the integration of artificial intelligence into education: a novel deep neural network framework for predicting transparency scores. Sci Rep 16, 12123 (2026). https://doi.org/10.1038/s41598-026-41480-9

Anahtar kelimeler: Eğitimde YZ, algoritmik şeffaflık, etik YZ, öğrenci gizliliği, makine öğreniminde adalet