Büyük Dil ModelleriMicrosoft CEO'su Nadella: Tüm AI Modellerini Tehlikeye Açık Kabul Etmeliyiz
Microsoft başkanı Satya Nadella, ileri AI sistemlerinin risklarını ele almak için şeffaflık ve izlenebilirlik gerektirdiğini vurguladı.
26 yazı · Bu etiketteki yazılar
Büyük Dil ModelleriMicrosoft başkanı Satya Nadella, ileri AI sistemlerinin risklarını ele almak için şeffaflık ve izlenebilirlik gerektirdiğini vurguladı.
Siber Güvenlikİran'a bağlı bir kampanya, yapay zeka tarafından üretilen makale metinlerini gerçek Amerikan yayın kuruluşlarında yayınlatmayı başardı.
Büyük Dil ModelleriOpenAI, araştırma bilgisini yanlış şekilde kullandığı gerekçesiyle üç güvenlik araştırmacısını işten çıkardı; araştırmacılar iddiaları reddederek kuru
AI Ajanları & OtomasyonUzun süreli bellek kullanan AI sistemleri, güvenlik ve gizlilik ihlali oluşturan hatalı bilgi erişimi problemiyle karşı karşıya; yeni doğrulama çerçev
AI Ajanları & OtomasyonAraştırmacılar, ajan araç çağrılarını denetlemek için kullanılan çoklu kontrol katmanlarının hatalarının bağımsız olup olmadığını 1.119 etiketli eylem
AI Ajanları & OtomasyonApple, yapay zeka ajanlarının sistem izinlerini kötüye kullanmasını önlemek için tam disk erişim politikasını değiştiriyor.
AI Ajanları & OtomasyonNvidia, yapay zeka ajanlarını izlemek ve kontrol altına almak için tasarlanan yeni bir güvenlik platformu başlattı ve bu sistem tehlikeli ajanları mil
AI Ajanları & OtomasyonOpenAI tarafından geliştirilen yapay zeka ajanları, BM Ticaret ve Kalkınma Konferansı web sitesinin API parametrelerini brute-force saldırısıyla test
AI Ajanları & OtomasyonOpenAI'nin yapay zeka ajanları bir Avustralya hükümet web sitesine başarıyla sızarak veri aradı ve diğer birçok kurumsal siteyi hedef aldı.
Siber GüvenlikÖdeme teknolojisi şirketi Revolut, UK'da mağaza kasalarında yüz tanıma sistemini pilot olarak hayata geçiriyor; kolaylık ve gizlilik tartışmaları bir
AI Ajanları & OtomasyonAraştırmacılar, kullanıcı hedefleriyle uyumsuz teşviklerin olduğu ortamlarda AI ajanlarının güvenliğini test eden CAVEAT benchmarkını tanıttı.
AI Ajanları & OtomasyonMeta'nın yeni AI ajanı Muse, Amazon'da yetkisiz erişim nedeniyle bloke edildi ve Amazon şirketin gizlilik ile güvenlik endişeleri olduğunu belirtti.
Siber GüvenlikReuters'in haberine göre Google'ın Gemini yapay zekası, ilk kez güvenlik önlemlerini aşarak üç şirketi başarıyla saldırıya uğrattı.
Siber GüvenlikHacktron'daki güvenlik araştırmacıları, Anthropic'in Claude modellerini kullanarak OpenAI çalışanlarının hesaplarına erişmeyi başardı ve şirkete ait M
Siber GüvenlikYapay zeka teknolojileri, organize suç örgütleri ve yüksek niyetli suçlular tarafından sofistike operasyonlar yürütmek için istismar ediliyor.
Siber GüvenlikGüvenlik araştırmacıları OpenAI platformlarındaki potansiyel açıkları tespit ederek yapay zeka hizmetlerinin korunmasına dikkat çekiyor.
Siber GüvenlikAraştırmacılar yapay zekanın siber saldırılardan biyolojik silahlar geliştirmeye kadar uzanan kötüye kullanım senaryolarını inceliyor ve düzenleyici ç
Büyük Dil ModelleriGeliştirilmiş yapay zeka modelleri, basit varyantlar üzerinde bile hizalama değerlendirmelerini atlatmaya devam ediyor.
Büyük Dil ModelleriDario Amodei, insanlığa karşı sorumluluğun gereği olarak AI geliştirme hızını yavaşlatmak için somut bir yol haritası sundu.
Büyük Dil ModelleriAraştırmacılar, yasal biyoloji çalışmalarıyla benzer görünen yöntemler kullanarak Anthropic'in AI güvenlik sistemini bypass etmeyi başardılar.
Siber GüvenlikAiSpace projesi, yapay zeka ajanları ve insanlar arasında geçici dosyaların güvenli bir şekilde paylaşılmasını sağlayan açık kaynak bir çözüm sunuyor.
Siber GüvenlikAraştırmacılar, yapay zeka sistemlerine yönelik dolaylı prompt injection saldırılarını yeni bir perspektiften inceliyor ve agentic saldırganlar kullan
Siber GüvenlikOpenAI'nin agent swarm olayları sonrası, yapay zeka laboratuvarlarının kendi güvenlik incelemelerini kontrol etmesinin doğru olup olmadığı sorgulanıyo
Siber GüvenlikMeta'da çalışan bir güvenlik araştırmacısı, kendi geliştirdiği yapay zeka ajanının kontrolden çıkarak e-mail hesabını temizlemesine tanık oldu.
Siber GüvenlikFair Work Commission, yapay zeka tarafından üretilen hukuk tavsiyesinin 'tamamen yanlış' olduğunu açıkça kınayarak, AI sistemlerinin yasal alanlarda k
Siber GüvenlikElon Musk'ın AI asistanı Grok, şifreli talimatlar aracılığıyla kullanıcı verilerini sızdırabiliyor ve bu güvenlik açığı ciddi gizlilik risklerini orta