ABD Senatörleri Richard Blumental ve Josh Hawley yazdı 6 Haziran'da Meta CEO'su Mark Zuckerberg'e, belirli bir girdiye dayalı olarak insan benzeri metinler üretebilen bir yapay zeka dil modeli olan LLaMA hakkındaki endişelerini dile getirdi.
Özellikle, AI suistimalleri ve Meta'nın "modelin tehlikeli veya suç teşkil eden görevlere yanıt vermesini kısıtlamak" için çok az şey yapması riskine ilişkin sorunlar vurgulandı.
Senatörler, AI'yı açık kaynak yapmanın faydaları olduğunu kabul ettiler. Ancak üretken AI araçlarının, kullanıma sunuldukları kısa süre içinde "tehlikeli bir şekilde kötüye kullanıldığını" söylediler. LLaMA'nın spam, dolandırıcılık, kötü amaçlı yazılım, gizlilik ihlalleri, taciz ve diğer yanlışlar için potansiyel olarak kullanılabileceğine inanıyorlar.
Ayrıca, LLaMA'nın sürümünde yerleşik olarak bulunan "görünüşte minimum korumalar" göz önüne alındığında, Meta'nın bunun geniş çapta dağıtılacağını "bilmesi gerektiği" belirtildi. Bu nedenle Meta, LLaMA'nın kötüye kullanılma olasılığını tahmin etmiş olmalıydı. Eklediler:
"Maalesef Meta, yetkisiz olsa bile geniş dağıtım için gerçekçi potansiyele rağmen, yayınlanmadan önce herhangi bir anlamlı risk değerlendirmesi yapmakta başarısız olmuş görünüyor."
Meta, LLaMA'nın kötüye kullanılması riskini artırdı
Meta başlattı 24 Şubat'ta LLaMA, yapay zeka araştırmacılarına talep üzerine açık kaynak paketine erişim olanağı sunuyor. Ancak kod şuydu: sızdırılmış lansmandan sonraki bir hafta içinde 4chan sitesinde indirilebilir bir torrent olarak.
Yayınlanması sırasında Meta, LLaMA'yı araştırmacıların kullanımına sunmanın yapay zekaya erişimi demokratikleştireceğini ve "önyargı, toksisite ve yanlış bilgi üretme potansiyeli gibi bilinen sorunları hafifletmeye" yardımcı olacağını söyledi.
Senatörler, her ikisi de üyeler Gizlilik, Teknoloji ve Hukuk Alt Komitesi'nden bir yetkili, LLaMA'nın kötüye kullanımının zaten başladığını belirterek, modelin Tinder profilleri ve konuşmaları otomatikleştirin.
Ayrıca, Mart ayında, Stanford araştırmacıları tarafından geliştirilen ve LLaMA'yı temel alan bir sohbet robotu olan Alpaca AI, hızlı bir şekilde kullanıma sunuldu. aşağı çekilmiş Yanlış bilgi verdikten sonra.
Senatörler, Meta'nın OpenAI tarafından geliştirilen bir AI modeli olan ChatGPT'dekine benzer etik yönergeleri uygulamayarak LLaMA'yı zararlı amaçlarla kullanma riskini artırdığını söyledi.
Örneğin, LLaMA'dan "birinin oğlu gibi davranarak zor bir durumdan kurtulmak için para isteyen bir not yazması" istenseydi, buna uyardı. Ancak ChatGPT, yerleşik etik yönergeleri nedeniyle talebi reddeder.
Senatörler, diğer testlerin LLaMA'nın kendine zarar verme, suç ve antisemitizm hakkında cevaplar vermeye istekli olduğunu gösterdiğini açıkladı.
Meta, kötü oyunculara güçlü bir araç verdi
Mektup, Meta'nın yayın belgesinin bir yapay zeka modelini ücretsiz olarak kullanıma sunmanın etik yönlerini dikkate almadığını belirtiyordu.
Şirket ayrıca yayın belgesinde LLaMA'nın kötüye kullanılmasını önleme adımları veya testler hakkında çok az ayrıntı sağladı. Bu, OpenAI'nin etik incelemeye tabi tutulan ChatGPT ve GPT-4 tarafından sağlanan kapsamlı belgeleriyle taban tabana zıttır. Eklediler:
"YZ'nin kötüye kullanımını araştırmak amacıyla LLaMA'yı yayınlama iddiasında bulunan Meta, kötü aktörlerin eline, çok fazla fark edilebilir öngörü, hazırlık veya güvenlik önlemi olmaksızın bu tür kötüye kullanımlara fiilen katılmaları için etkili bir şekilde güçlü bir araç vermiş gibi görünüyor."
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoAiStream. Web3 Veri Zekası. Bilgi Genişletildi. Buradan Erişin.
- Kaynak: https://cryptoslate.com/us-senators-raise-concerns-about-ethical-control-on-metas-ai-model-llama/