Blake, bu tür istikrarsızlaştırıcı yapay zeka olayının henüz gerçekleşmediğini kabul etti, ancak 2021’de Apple ve Goldman Sachs’ın New York Eyaleti Finansal Hizmetler Departmanı tarafından algoritmik olarak daha küçük hatlar sunmaları nedeniyle araştırıldığı bir vakaya atıfta bulunarak risklerin son derece gerçek olduğu konusunda uyardı Dahası, özel modellerin şeffaf olmayan “kara kutu” doğası, büyük bir grup önemli firmanın bunları benzer amaçlarla kullanması durumunda, eylemlerinin bir bütün olarak ekonomi üzerinde büyük bir etkiye sahip olabileceği ve pazarlıkta oldukça öngörülemez olabileceği anlamına gelir
Blake, “Önyargı, adalet ve etik ile ilgili doğal sorunların ötesinde, bu durum potansiyel olarak finansal kurumlar veya bir bütün olarak finansal sistem için istikrar sorunlarına yol açabilir” diye yazdı ” Blake yazdı Her ikisi de geliştiricilerin ve yaratıcıların yapay zeka modellerine getirdiği insani önyargıları yansıtsa da, ilk kategorinin yalnızca kadınlık veya beyaz olmama gibi durumları gösteren veri noktalarından kurtularak etkisiz hale getirilmesi imkansızdır Bankacılık sistemine olan güven, yapay zeka tarafından sergilenen yukarıda belirtilen önyargılar nedeniyle ciddi bir risk altındadır; zira yapay zeka (insan karar vericilere göre belirgin şekilde daha az ayrımcı olmasına rağmen), beyaz olanlarla karşılaştırıldığında siyahi ve Latin mortgage müşterilerinden hala daha yüksek oranlar talep etmektedir
“[T]Model, korunmayan özelliklere dayalı olarak önyargılı karar almaya yol açan temel korelasyonları ortaya koyabilir kadınlara kredi
Telif Hakkı © 2023 IDG Communications, Inc
Günümüzün örtülü önyargısı üretken yapay zeka İngiltere Merkez Bankası için çalışan bir finansal teknoloji uzmanı tarafından hazırlanan bir rapora göre, modeller finans sektöründe hızlı bir şekilde benimsenmeyi tehlikeli hale getiriyor Blake, benzer mantığın yapay zeka sistemlerinde zaten görülebildiğini belirtti
Blake, yapay zeka önyargısının özellikle finans sektöründe tehlikeli olduğu konusunda uyardı
genel-13
Blake, veri önyargısını ipotek kredilerindeki kırmızı çizgi uygulamasına benzetti
Kathleen Blake’in Çarşamba günü yayınlanan raporu, yapay zeka modelinin önyargısını iki kategoriye ayırıyor: temel eğitim verilerine dayanan önyargı ve model çıktısının sonuçlarına dayanan önyargı ”
Toplumsal önyargı ise tam tersine, “bir toplumdan gelen normların ve olumsuz mirasın kör noktalara neden olduğu yerdir “Başka bir deyişle, geri kalan korunmayan özellikler, korunan özelliklerin vekilleri olarak hareket edebilir