The Alignment Problem – Machine Learning and Human Value
$20,00
$18,00
Bugünün “makine öğrenimi” sistemleri, veriyle eğitildikleri için o kadar etkili hale geldi ki, artık onlar bizim yerimize görüyor, duyuyor — ve karar veriyorlar. Ancak alarm zilleri çalmaya başladı. Makine öğrenimi alanındaki hızlı gelişmeler, son yıllarda ciddi endişelere yol açtı. Öğretmeyi denediğimiz sistemler, nihayetinde bizim istediğimizi veya beklediğimizi yapmadığında, etik ve hatta varoluşsal riskler ortaya çıkıyor. Araştırmacılar bu duruma “uyum problemi” (alignment problem) adını veriyor.
Sistemler özgeçmişleri tarıyor ve yıllar sonra fark ediyoruz ki, bu sistemler doğuştan gelen cinsiyet önyargıları barındırıyor. Algoritmalar kefalet ve şartlı tahliye kararlarını veriyor — ve siyah ve beyaz sanıkları farklı değerlendirdikleri görülüyor. Artık mortgage başvurularımızın ya da tıbbi testlerimizin insan gözünden geçeceğini varsayamayız. Otonom araçlar sokaklarımızda yerini aldıkça, giderek daha fazla hayatımızı onlara emanet ediyoruz.
Bu değişimlere yön veren matematiksel ve hesaplamalı modeller, bir elektronik tabloya sığabilecek kadar basit olabildiği gibi, “yapay zeka” olarak adlandırılabilecek kadar karmaşık sistemler de olabiliyor. Bu sistemler giderek hem insan yargısının hem de açıkça programlanmış yazılımların yerini alıyor.
Çok satan yazar Brian Christian’ın sürükleyici anlatımında, uyum probleminin “ilk müdahale ekipleri” ile tanışıyoruz ve direksiyondan tamamen el çekmeden önce bu sorunu çözmek için geliştirdikleri iddialı planı öğreniyoruz. Tarihsel analiz ile saha gözlemlerinin ustaca harmanlandığı bu eser, makine öğrenimi alanındaki patlayıcı büyümeyi ve bugün ulaşılan geniş sınırları irdeliyor. Okuyucular, heyecan verici ve zaman zaman korkutucu bir ilerlemenin ortasında ayakları yere basmaya çalışan bir disiplinle karşılaşıyor. Bu uyum problemini çözme girişimlerinin — başarılı olsun ya da olmasın — insanlık için belirleyici bir hikâye olacağı kesin.
