Yapay zekâ faciası son anda önlendi! Amazon Alexa, bir çocuktan bozuk parayı prize takmasını istedi

Amazon’un sesli asistanı Alexa, 10 yaşındaki bir kız çocuğundan benzeri takılı bir fişin uçlarına bozuk para ile dokunmasını kendi isteğiyle, ona meydan okudu. Gelişme üstüne Amazon, sesli asistanını güncelleyerek hatayı giderdi.

Küçük kızın annesi Kristin Livdahl, Twitter’da yaşananları şöyle anlattı:

“Daha önce YouTube’da bir beden eğitimi öğretmeninden, ayağınızdaki bir ayakkabıyla yatmak ve yuvarlanmak gibi bazı somut meydan okumalar izleyip, bunları yapıyorduk. Dışında hava kötüydü. Kızım sadece bir tane daha gerçekleştirmek istedi.”

O sırada Amazon Echo asistanı, internette bulduğu bir meydan okumaya önerdi ve “Bir telefon çok miktar cihazını prizin yarısına değin takın, ardından açıktaki uçlara bozuk para ile dokunun” dedi.

Yapay zekâ faciası son anda önlendi Amazon Alexa, bir çocuktan bozuk parayı prize takmasını istedi

Livdahl, duruma “Hayır, Alexa, hayır!” diye bağırarak müdahale ettiğini belirtti. Kızının “böyle bir şey yapmayacak değin zeki” olduğunu da söyledi.

Amazon, BBC’ye yaptığı açıklamada, asistanın gelecekte böyle bir aktivite önermesini önleyecek şekilde Alexa’yı güncellediklerini söyledi.

Hatanın farkına varır varmaz, düzeltmek için tez harekete geçtiğini söyleyen Amazon, “Tip güveni, yaptığımız her şeyin merkezinde yer alıyor ve Alexa, müşterilere dürüst, alakalı ve muavin bilgiler karşılamak için tasarlandı” dedi.

“Kuruş meydan okuması” olarak aşina bu güvenli olmayan aktivite, takriben bir sene önce TikTok ve diğer sosyal medya sitelerinde dolaşmaya başladı.

Yapay zekâ faciası son anda önlendi Amazon Alexa, bir çocuktan bozuk parayı prize takmasını istedi

Birçok metal elektriği iletir ve bunların elektrik prizlerine takılması elektrik çarpmalarına, yangınlara ve öteki hasarlara niçin olabilir.

Carlisle East İtfaiye İstasyonu Müdürü Michael Clusker 2020’de Yorkshire’daki The Press gazetesine verdiği demeçte, bu güvenli olmayan meydan okumaya aleyhinde uyarıda bulunmuş ve, “Parmaklarınızı, ellerinizi ve kollarınızı kaybedebileceğinizi biliyorum” demişti.

ABD’deki itfaiye yetkilileri de bu güya meydan okumaya karşısında çıkmışlardı.

Yorum yapın