X, yapay zeka sohbet botu Grok’un metinden görsel üretme özelliğini, yaşanan küresel tepkiler ve moderasyon krizleri sonrasında radikal bir kararla sınırlandırdı.
Platform, daha önce daha geniş bir kitle tarafından erişilebilen bu özelliği, artık sadece X Premium ve Premium+ abonesi olan ücretli kullanıcılara sunacağını duyurdu. Bu hamle, Grok’un (arka planda Black Forest Labs’in FLUX.1 modelini kullanıyor) kullanıma açıldığı andan itibaren, herhangi bir güvenlik filtresine takılmadan tanınmış kişilerin, politikacıların ve hatta telifli karakterlerin uygunsuz veya yanıltıcı görsellerini üretmekte kullanılmasına bir “frene basma” girişimi olarak yorumlanıyor.
Haberde “dünyanın öfkesini üzerine çekmek” (drawing the world’s ire) ifadesiyle vurgulanan durum, aslında kontrolsüz yapay zekanın yarattığı dezenformasyon tehlikesini işaret ediyor. Kullanıcılar, Grok’u kullanarak Mickey Mouse’u savaş alanında veya ünlü politikacıları skandal durumlarda gösteren fotorealistik görseller üretip bunları hızla yayabiliyordu. X yönetimi, bu kaosu durdurmak için katı içerik filtreleri (guardrails) eklemek yerine, özelliği bir ödeme duvarının (paywall) arkasına saklamayı tercih etti. Bu strateji, hem kötü niyetli “trol” hesapların veya botların özelliğe erişimini zorlaştırarak kötüye kullanımı azaltmayı, hem de şirketin gelir kalemlerinden biri olan abonelik modelini daha cazip hale getirmeyi hedefliyor.
Ancak teknoloji yazarları, bu kısıtlamanın sorunu kökten çözmediği, sadece “parayı verenin” deepfake üretebildiği bir sisteme dönüştüğü konusunda eleştirilerini sürdürüyor. X’in güncellenen yardım sayfasında da belirtildiği üzere, görsel oluşturma özelliği artık “öncelikli erişim” kapsamında değerlendiriliyor. Bu gelişme, sosyal medya platformlarının yapay zeka araçlarını entegre ederken “ifade özgürlüğü” ile “toplumsal güvenlik” arasında yaşadığı dengenin ne kadar kırılgan olduğunu bir kez daha gözler önüne seriyor. Grok, şimdilik sadece kredi kartı ekstresinde X’i görenlere resim çizecek; ancak üretilen içeriklerin denetiminin nasıl sağlanacağı hala büyük bir soru işareti.
