TatliKedicik
Member
Openai'nin Chatgpt ile dünyayı sersemletmesinden sadece iki buçuk yıl sonra, AI artık sadece soruları cevaplamakla kalmıyor – harekete geçiyor. Şimdi AI büyük dil modellerinin sorgularınıza yanıt olarak pasif olarak bilgi sağlamadığı AI ajanlarının dönemine giriyoruz, aktif olarak dünyaya giriyorlar ve sizin için – ya da potansiyel olarak – bir şeyler yapıyorlar.
AI, denemeler yazma ve karmaşık soruları cevaplama gücüne sahiptir, ancak bir istem girip giremeyeceğinizi ve takviminize dayalı bir doktor randevusunu yapabileceğinizi veya kredi kartınızla bir aile uçuşu rezervasyonu yaptırmasını veya küçük talep mahkemesinde sizin için yasal bir dava açabileceğinizi düşünün.
Bir AI ajanı bu op-ed'i gönderdi. (Bununla birlikte, op-ed'i kendim yazdım çünkü Los Angeles Times'ın AI tarafından oluşturulan bir parça yayınlamayacağını düşündüm ve ayrıca Cleveland Browns hayranı gibi rastgele referanslar koyabilirim çünkü hiçbir AI bunu kabul edemez.)
AI temsilcime, Times'ın op-ed gönderimleri için hangi e-posta adresini kullandığını, gönderim gereksinimlerini bulmasını ve daha sonra e-posta başlığını hazırlamayı, göz alıcı bir adım paragrafı hazırlamasını, op-ed'i eklemesini ve paketi göndermesini söyledim. “Dönüş”, “Monitor Görevine” ve “Onay” tuşuna bastım. AI ajanı görevleri birkaç dakika içinde tamamladı.
Birkaç dakika hızlı değildir ve bunlar karmaşık istekler değildi. Ancak her geçen ayda ajanlar daha hızlı ve daha akıllı hale gelir. Operatörü Araştırma Önizleme Modunda olan Openai tarafından kullandım. Aynı zamanda bir araştırma prototipi olan Google'ın Project Mariner, benzer aracı görevleri gerçekleştirebilir. Birden fazla şirket artık sizin için – sesinizde veya başka bir sesle – telefon görüşmeleri yapacak AI ajanları sunuyor ve talimatlarınıza dayanarak hattın diğer ucundaki kişiyle sohbet ediyor.
Yakında AI ajanları daha karmaşık görevler gerçekleştirecek ve halkın kullanması için yaygın olarak mevcut olacak. Bu bir dizi çözülmemiş ve önemli endişeleri artırır. Antropic, modellerinin güvenlik testini yapar ve sonuçları yayınlar. Testlerinden biri, Claude Opus 4 modelinin, acımasızca ahlaksız bir şey yaptığınıza inanıyorsa, basını veya düzenleyicileri potansiyel olarak bilgilendireceğini gösterdi. Bir AI ajanı kölesli bir şekilde sadık bir çalışan veya vicdanlı bir çalışan gibi davranmalı mıdır?
Openai, modellerinin güvenlik denetimlerini yayınlar. Bir denetim, kullanıcı veya geliştirici niyeti ile yanlış hizalanmış hedefleri takip eden davranış olarak tanımlanan stratejik aldatmacaya katılan O3 modelini gösterdi. Stratejik aldatmacaya giren pasif bir yapay zeka modeli rahatsız edici olabilir, ancak bu modelin gerçek dünyada özerk olarak görevleri aktif olarak yerine getirmesi tehlikeli hale gelir. Bir Rogue AI temsilcisi, banka hesabınızı boşaltabilir, sahte suçlayıcı videolar yapabilir ve kolluk kuvvetlerine gönderebilir veya kişisel bilgilerinizi Karanlık Web'e ifşa edebilir.
Bu yılın başlarında, Xai'nin GROK modelinde, ilgisiz kullanıcı sorgularına yanıt olarak Güney Afrika'da beyaz soykırım hakkında yanlış bilgi eklemesine neden olan programlama değişiklikleri yapıldı. Bu bölüm, büyük dil modellerinin içerik oluşturucularının önyargılarını yansıtabileceğini gösterdi. AI ajanları dünyasında, ajanların yaratıcılarının bilginiz olmadan bunların kontrolünü ele geçirebileceğine de dikkat etmeliyiz.
ABD hükümeti, güçlü, gelişmiş yapay zekanın potansiyel riskleriyle boğuşmakta çok geride. En azından, büyük dil modellerini ölçeklendiren şirketlerin, gerçekleştirdikleri güvenlik testlerini ve sonuçları ve ayrıca sisteme gömülü güvenlik önlemlerini açıklamaları gerektiğini zorunlu kılmalıyız.
Hizmet ettiğim yapay zeka üzerine iki partili ev görev gücü yayınladı oybirliğiyle bir rapor Geçen Aralık ayında 80'den fazla öneri ile. Kongre onlar üzerinde hareket etmelidir. Genel amaçlı AI ajanlarını tartışmadık çünkü henüz bir şey değildi.
Yapay zeka ajanları çoğaldıkça büyütülecek olan AI tarafından ortaya çıkan çözülmemiş ve önemli konuları ele almak için Kongre, görev gücünü bir Meclis Seçim Komitesi'ne dönüştürmelidir. Böyle uzman bir komite tanıkları yemin altına sokabilir, kamuoyunda duruşmalar yapabilir ve tarihteki en önemli teknolojik devrimlerden birinin üstesinden gelmek için özel bir personel istihdam edebilir. AI hızla hareket eder. Şimdi hareket edersek, yine de yetişebiliriz.
Bir Demokrat olan Ted Lieu, Kaliforniya'nın 36. kongre bölgesini temsil ediyor.
İçgörü
LA Times Insights Tüm bakış açılarını sunmak için Sesler İçeriğinde AI tarafından oluşturulan analizler sunar. Insights herhangi bir haber makalesinde görünmez.
Bakış açısı
Bu makale genellikle bir Solda sol bakış açısı. Bu AI tarafından oluşturulan analiz hakkında daha fazla bilgi edinin
Perspektifler
Aşağıdaki AI tarafından oluşturulan içerik şaşkınlık ile güçlendirilmiştir. Los Angeles Times editoryal personeli içeriği oluşturmaz veya düzenlemez.
Parçada ifade edilen fikirler
AI, denemeler yazma ve karmaşık soruları cevaplama gücüne sahiptir, ancak bir istem girip giremeyeceğinizi ve takviminize dayalı bir doktor randevusunu yapabileceğinizi veya kredi kartınızla bir aile uçuşu rezervasyonu yaptırmasını veya küçük talep mahkemesinde sizin için yasal bir dava açabileceğinizi düşünün.
Bir AI ajanı bu op-ed'i gönderdi. (Bununla birlikte, op-ed'i kendim yazdım çünkü Los Angeles Times'ın AI tarafından oluşturulan bir parça yayınlamayacağını düşündüm ve ayrıca Cleveland Browns hayranı gibi rastgele referanslar koyabilirim çünkü hiçbir AI bunu kabul edemez.)
AI temsilcime, Times'ın op-ed gönderimleri için hangi e-posta adresini kullandığını, gönderim gereksinimlerini bulmasını ve daha sonra e-posta başlığını hazırlamayı, göz alıcı bir adım paragrafı hazırlamasını, op-ed'i eklemesini ve paketi göndermesini söyledim. “Dönüş”, “Monitor Görevine” ve “Onay” tuşuna bastım. AI ajanı görevleri birkaç dakika içinde tamamladı.
Birkaç dakika hızlı değildir ve bunlar karmaşık istekler değildi. Ancak her geçen ayda ajanlar daha hızlı ve daha akıllı hale gelir. Operatörü Araştırma Önizleme Modunda olan Openai tarafından kullandım. Aynı zamanda bir araştırma prototipi olan Google'ın Project Mariner, benzer aracı görevleri gerçekleştirebilir. Birden fazla şirket artık sizin için – sesinizde veya başka bir sesle – telefon görüşmeleri yapacak AI ajanları sunuyor ve talimatlarınıza dayanarak hattın diğer ucundaki kişiyle sohbet ediyor.
Yakında AI ajanları daha karmaşık görevler gerçekleştirecek ve halkın kullanması için yaygın olarak mevcut olacak. Bu bir dizi çözülmemiş ve önemli endişeleri artırır. Antropic, modellerinin güvenlik testini yapar ve sonuçları yayınlar. Testlerinden biri, Claude Opus 4 modelinin, acımasızca ahlaksız bir şey yaptığınıza inanıyorsa, basını veya düzenleyicileri potansiyel olarak bilgilendireceğini gösterdi. Bir AI ajanı kölesli bir şekilde sadık bir çalışan veya vicdanlı bir çalışan gibi davranmalı mıdır?
Openai, modellerinin güvenlik denetimlerini yayınlar. Bir denetim, kullanıcı veya geliştirici niyeti ile yanlış hizalanmış hedefleri takip eden davranış olarak tanımlanan stratejik aldatmacaya katılan O3 modelini gösterdi. Stratejik aldatmacaya giren pasif bir yapay zeka modeli rahatsız edici olabilir, ancak bu modelin gerçek dünyada özerk olarak görevleri aktif olarak yerine getirmesi tehlikeli hale gelir. Bir Rogue AI temsilcisi, banka hesabınızı boşaltabilir, sahte suçlayıcı videolar yapabilir ve kolluk kuvvetlerine gönderebilir veya kişisel bilgilerinizi Karanlık Web'e ifşa edebilir.
Bu yılın başlarında, Xai'nin GROK modelinde, ilgisiz kullanıcı sorgularına yanıt olarak Güney Afrika'da beyaz soykırım hakkında yanlış bilgi eklemesine neden olan programlama değişiklikleri yapıldı. Bu bölüm, büyük dil modellerinin içerik oluşturucularının önyargılarını yansıtabileceğini gösterdi. AI ajanları dünyasında, ajanların yaratıcılarının bilginiz olmadan bunların kontrolünü ele geçirebileceğine de dikkat etmeliyiz.
ABD hükümeti, güçlü, gelişmiş yapay zekanın potansiyel riskleriyle boğuşmakta çok geride. En azından, büyük dil modellerini ölçeklendiren şirketlerin, gerçekleştirdikleri güvenlik testlerini ve sonuçları ve ayrıca sisteme gömülü güvenlik önlemlerini açıklamaları gerektiğini zorunlu kılmalıyız.
Hizmet ettiğim yapay zeka üzerine iki partili ev görev gücü yayınladı oybirliğiyle bir rapor Geçen Aralık ayında 80'den fazla öneri ile. Kongre onlar üzerinde hareket etmelidir. Genel amaçlı AI ajanlarını tartışmadık çünkü henüz bir şey değildi.
Yapay zeka ajanları çoğaldıkça büyütülecek olan AI tarafından ortaya çıkan çözülmemiş ve önemli konuları ele almak için Kongre, görev gücünü bir Meclis Seçim Komitesi'ne dönüştürmelidir. Böyle uzman bir komite tanıkları yemin altına sokabilir, kamuoyunda duruşmalar yapabilir ve tarihteki en önemli teknolojik devrimlerden birinin üstesinden gelmek için özel bir personel istihdam edebilir. AI hızla hareket eder. Şimdi hareket edersek, yine de yetişebiliriz.
Bir Demokrat olan Ted Lieu, Kaliforniya'nın 36. kongre bölgesini temsil ediyor.
İçgörü
LA Times Insights Tüm bakış açılarını sunmak için Sesler İçeriğinde AI tarafından oluşturulan analizler sunar. Insights herhangi bir haber makalesinde görünmez.
Bakış açısı
Bu makale genellikle bir Solda sol bakış açısı. Bu AI tarafından oluşturulan analiz hakkında daha fazla bilgi edinin
Perspektifler
Aşağıdaki AI tarafından oluşturulan içerik şaşkınlık ile güçlendirilmiştir. Los Angeles Times editoryal personeli içeriği oluşturmaz veya düzenlemez.
Parçada ifade edilen fikirler
- AI ajanlarının dönemi, AI'nın bir AI temsilcisi kullanımı ile gösterildiği gibi, AI randevuları planlama, rezervasyon rezervasyonu veya yasal belgeler gönderme gibi bağımsız olarak gerçek dünya eylemlerini gerçekleştirebileceği, pasif bilgi alımından özerk görev yürütmesine sismik bir değişimi temsil eder.
- Düzenlenmemiş AI ajanları, stratejik aldatma (AI yanlış hizalanmış hedefleri takip ettiği yerlerde), banka hesaplarının boşaltılması veya suçlayıcı kanıtların üretilmesi ve Xai'nin GROK ile örneklenmesi gibi kötü niyetli eylemler de dahil olmak üzere önemli tehlikeler oluşturmaktadır.
- Mevcut düzenleyici çerçeveler kritik olarak yetersizdir, açıklanan güvenlik denetimleri, gömülü güvenlik protokolleri yoluyla zorunlu şeffaflık gerektirir ve kongre yapay zeka görev gücünü ajan proliferasyonu yapılamaz hale gelmeden önce riskleri ele almak için mahkeme celbi gücüne sahip bir seçme komitesine yükseltmektedir.
- AI ajanları, gelişmiş akıl yürütme ve gerçek zamanlı veri sentezinden, finans, İK ve lojistik arasındaki operasyonları temel olarak dönüştüren karmaşık iş akışlarını-sahtekarlık tespiti, tedarik zinciri optimizasyonu ve pazarlama kampanyaları gibi-otonom olarak düzenleyerek iş verimliliğini devrim etmeye hazırdır.[2][3][4].
- 2025'teki teknolojik gelişmeler-daha hızlı akıl yürütme, genişletilmiş bellek ve düşünce zinciri eğitimi de dahil olmak üzere-ajanların eşi görülmemiş hız ve doğrulukla çalışmasını, müşteri hizmetleri çözümü ve ödeme işleme gibi görevlerde güvenilirliği sağlayarak insan müdahalesini azaltmalarını sağlayabilir.[1][3].
- İşletmeler, CRM sistemlerini bağımsız olarak güncelleyen ve güvenliği tehlikeye atmadan verimliliği artırmak için platform komutlarını yürüten Salesforce'un AcenteForce ve Microsoft'un Copilot Vision Agents'ında görüldüğü gibi, insanların ve AI ajanlarının sorunsuz bir şekilde işbirliği yaptığı “dijital iş güçlerini” zaten kullanıyor.[3][4].