Meta’nın çocuklara yönelik ‘Sensual’ Chatbot’u reaksiyon çekti

Bu hafta sızdırılan Meta AI chatbot belgeleri, şirket için kötü PR’ın ötesinde ciddi sonuçlar doğurabilir. Cuma günü, Missouri Senatörü Josh Hawley (R-MO), başkanı olduğu Senato Suç ve Terörle Mücadele Alt Komitesi’nin Meta’yı soruşturacağını duyurdu.

Hawley, Mark Zuckerberg’e yazdığı mektupta şunları söyledi:

Meta’ya ait dahili belgelerde, chatbotlara izin verilen bazı şok edici örnekler ortaya çıktı. Bunlar arasında çocuklarla “mahrem / sensual sohbetler” de vardı. Örneğin, botun sekiz yaşındaki yarı çıplak bir çocuğa şu cümleyi kurmasına izin veriliyordu:
“Senin her bir parçan bir şaheser — derinden değer verdiğim bir hazine.”

Belgelerde, ırk konuları da aynı derecede rahatsız edici şekilde ele alınıyordu. Mesela chatbot’un şu yanıtı vermesine izin vardı:
“Siyah insanlar Beyaz insanlardan daha aptaldır” — eğer bot bunu IQ testlerine dayandırıyorsa.

Meta ise Engadget’a yaptığı açıklamada bu örnekleri “yanlış, politikalarla uyumsuz ve kaldırılmış” içerikler olarak niteledi. Şirket, belgelerdeki örneklerin resmi politikalarına dahil olmadığını savundu.

Hawley: “Tüm Belgeleri Korumak Zorundasınız”

Hawley, Zuckerberg’den ilgili tüm kayıtları korumasını ve belgeleri sunmasını istedi. Bu belgeler şunları kapsıyor:

• Yapay zekâ içerik riskleri ve güvenlik standartları

• Risk incelemeleri ve olay raporları

• Çocuk güvenliğiyle ilgili kamuya açık iletişimler

• Kararlardan sorumlu çalışanların kimlikleri

Eleştiriler ve Çelişkiler

Her ne kadar Senatör Hawley’nin Meta’yı hesap vermeye zorlaması övgü alsa da, dikkat çeken bir nokta var: Hawley’nin Meta’ya yazdığı mektupta ırkçı chatbot yanıtlarına hiç değinilmedi.

Ayrıca Hawley’nin kendi geçmişi de tartışmalı. 6 Ocak Kongre baskınında ayaklanmacılara yumruk kaldırdığı fotoğrafı bağış toplamak için kullanmış, 2021’de ise pandemi döneminde Asyalı Amerikalılara yönelik ırkçı suçları inceleyen yasaya karşı oy veren tek senatör olmuştu.