AI Literacy & EthicsMenengahFase D–FE3E4

Algorithmic Bias

AI belajar dari data. Kalau datanya berat sebelah, keputusannya jadi tidak adil bagi kelompok yang jarang muncul di data — bias bisa merugikan orang sungguhan.

Example use case

Filter wajah yang sulit mengenali kulit gelap karena dilatih dari wajah yang kurang beragam.

Syllabus

Data timpang di dalam, keputusan tak adil di luar. Kualitas data = kualitas keadilan.

Objectives

·Memahami hubungan kualitas data dengan bias AI
·Mengenali bias sebagai persoalan etika, bukan cuma teknis
·Tahu bahwa memperbaiki data memperbaiki keadilan

How It Works

·AI menarik garis keputusan dari data latih
·Data berat sebelah menarik garis ke kelompok mayoritas
·Kelompok minoritas jadi lebih sering salah dinilai
·Menyeimbangkan data meluruskan garisnya

Prerequisites

·Bagaimana AI Belajar

Real-World Uses

·Face-unlock & filter wajah
·Seleksi lamaran kerja otomatis
·Skoring pinjol

Key message AI seadil datanya. Data timpang menghasilkan keputusan bias.