Google, Gemini YZ aracının insanlara dair görüntü üretme kabiliyetini şimdilik durdurdu. Şirket ek olarak bir de özür yayınladı, zira bu vasıta ile üretilmiş, tarihsel gerçekçiliği olmayan fotoğraflar -ki bunlar içinde Nazi askeri olarak gösterilen siyahiler de yer alıyor- yayılmaya başladı.
The Verge‘ün haberine bakılırsa, pek oldukça değişik komut ile robot tarihsel yanlışlıklarla dolu görseller üretebiliyor. İllüstrasyonlarda 1943 senesinde değişik ırklardan, hatta siyahi Alman askerleri görülebiliyor. Aynı şekilde 1800’lerdeki ABD Senatosu görsellerinde de hatalar bulunuyor.
Google, X üstünde yapmış olduğu açıklamada “Gemini’nin görsel üretme özelliğiyle ilgili son problemler üstünde çalışıyoruz. Bu emek verme esnasında, insanların görsellerini üretme hususi durumunu durduruyoruz ve geliştirilmiş bir sürümü yakında sunacağız.”
https://twitter.com/Google_Comms/status/1760603321944121506″/>
Google, daha ilkin yapmış olduğu açıklamada Gemini’nın YZ görsel üreticisinin oldukça sayıda insan üretebildiğini söylemişti:
“Dünyanın dört bir yanından insanoğlu bunu kullanacağı için, iyi bir şey. Sadece burada ölçüyü kaçırıyor”.
YZ görsel üreticilerin ırkçı stereotipleri sürdürdüğü biliniyor, Google’ın YZ ilkelerinden biri de “haksız önyargı yaratmak ya da onları güçlendirmekten kaçınmak” şeklinde belirlenmiş durumda. Gemini üstünde çalışan Jack Krawczyk’in X’te belirttiği şeklinde “tarihsel bağlamlarda daha çok nüans bulunuyor”.