Google, üretken yapay zeka ürünleri ve hizmetlerinde güvenlik sorunları bulmanın bedelini ödeyecek - Dünyadan Güncel Teknoloji Haberleri

Google, üretken yapay zeka ürünleri ve hizmetlerinde güvenlik sorunları bulmanın bedelini ödeyecek - Dünyadan Güncel Teknoloji Haberleri
Yapay zekanın benimsenmesindeki artışla birlikte Google, VRP’nin artık yapay zekaya özgü saldırılara ve kötü niyetli fırsatlara da odaklanacağını söyledi

“Bugün, üretken yapay zekaya özel saldırı senaryolarını ödüllendirmek için Güvenlik Açığı Ödül Programımızı (VRP) genişletiyoruz

VRP için güncellenmiş yönergeler
Şirket ayrıca hangi keşiflerin ödüle hak kazandığını ve hangilerinin kapsam dışı olduğunu ayrıntılarıyla açıklayan güncellenmiş yönergeler yayınladı

Google ayrıca “AI tedarik zinciri güvenliği hakkındaki bilgileri evrensel olarak keşfedilebilir ve doğrulanabilir hale getirmek için açık kaynak güvenlik çalışmalarını genişletiyor ”

FacebookheyecanLinkedIn

makalenin sonu



genel-9

Örneğin, bir güvenlik araştırmacısı özel, hassas bilgileri sızdıran eğitim verilerinin çıkarılmasının kapsam dahilinde olduğunu keşfederse ancak yalnızca genel, hassas olmayan verileri gösteriyorsa ödül almaya hak kazanamaz


Üretken yapay zekanın hükümetleri ve düzenleyicileri endişesi var

Bu, şirketin bu yılın başında Beyaz Saray’da diğer önde gelen yapay zeka şirketleriyle yaptığı işbirliğiyle, yapay zeka sistemlerindeki güvenlik açıklarının keşfini ilerletme taahhüdüyle uyumlu

Google, “Üretken yapay zeka, haksız önyargı potansiyeli, model manipülasyonu veya verilerin yanlış yorumlanması (halüsinasyonlar) gibi geleneksel dijital güvenliğe kıyasla yeni ve farklı endişeleri gündeme getiriyor” dedi ve bu potansiyel riskleri daha iyi tahmin etmek ve test etmek için çalıştığını ekledi Google geçen yıl güvenlik araştırmacılarına hata keşifleri için 12 milyon dolar verdiğini söyledi Bunun yapay zeka güvenliği ve emniyeti konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek olası sorunları gün ışığına çıkaracağına inanıyoruz” dedi Google Önyargı, yanlış bilgi ve siber suçlar, büyük dil modellerinin (LLM’ler) oluşturduğu diğer çeşitli ‘tehditlerin’ arasında yer almaktadır ve kullanıcıları karmaşık yapay zeka suçlarından korumak için, Google hata ödül programının genişletildiğini duyurdu

VRP nedir?
Google’ın VRP’si, potansiyel olarak çevrimiçi kullanıcılara saldırmak için kullanılabilecek güvenlik açıklarını, hataları veya kusurları tespit etmeyi başaran, kendi kuruluşu dışındaki güvenlik araştırmacılarını ödüllendiren bir programdır