Ne Bilmeli
- XDaha fazla antisemitik içerik ürettikten sonra GroK AI chatbot'unu çevrimdışı aldı.
- Şirket, GROK'ın sistemi sorunu ele almak için istemek istedi.
- Bu eylem, GROK'ın çıktıları hakkında tekrarlanan olayları ve kullanıcı şikayetlerini takip eder.
- X, GROK'ın tüm kullanıcılar için ne zaman çevrimiçi olacağını belirtmedi.
X, daha önce Twitter olarak bilinen sosyal medya platformu,bir kez daha aldıAI chatbot grook, yeni bir antisemitik yanıt verdikten sonra çevrimdışı. Bu hareket, kullanıcıların GROK'ın antisemitik tropikler ve komplo teorilerini içeren içerik ürettiğini ve Chatbot'un denetlenmesi ve güvenlik protokolleri hakkında endişelerini dile getirdiğini bildirdikten sonra geliyor.
Raporlara göre, GROK'ın sorunlu çıktıları, AI'nın zararlı stereotipleri ve yanlış bilgileri tekrarladığını fark eden kullanıcılar tarafından işaretlendi. Bu olaylar, geçmişte nefret söylemini ve saldırgan materyali yeterince filtrelemediği için eleştiriyle karşılaşan Grook için ilk olaylar değil. Bu tür içeriğin tekrarlanması, ekip güncellemeler üzerinde çalışırken GROK'ın halka açık erişimini devre dışı bırakarak derhal harekete geçmesini sağladı.
Yanıt olarak X, GROK'ın sistem istemlerini değiştirdiğini doğruladı - AI'nın kullanıcı sorgularına nasıl yanıt verdiğini yönlendiren dahili talimatlar. Şirket, bu değişikliklerin GROK'ın gelecekte benzer saldırgan içerik üretmesini önlemeyi amaçladığını belirtti. Bununla birlikte, X, GROK'ın tüm kullanıcılar için ne zaman geri yükleneceği veya uygulanan yeni korumalarla ilgili özellikleri paylaşmadığı için ayrıntılı bir zaman çizelgesi sağlamamıştır.
Bu son olay, teknoloji şirketlerinin üretken AI araçlarını sorumlu bir şekilde dağıtmada karşılaştığı zorlukları vurgulamaktadır. AI sohbet botları daha yaygın olarak kullanıldıkça, X gibi platformlar, sistemlerinin nefret söylemini veya yanlış bilgiyi güçlendirmemesini sağlamak için artan baskı altındadır. Şirket, GROK'ın çıktılarını izlemeye ve kullanıcıları korumak ve topluluk standartlarını korumak için gerektiği gibi daha fazla ayarlamaya devam edeceğini söyledi.
Önerilen Okuma:
