OpenAI, Avusturya'da gizlilik şikayeti ve potansiyel AB yasa ihlaliyle karşılaştı

Önde gelen bir yapay zeka (AI) geliştiricisi olan OpenAI, veri hakları savunuculuğu grubu Noyb’un sunduğu gizlilik şikayetinin ardından Avusturya veri koruma yetkilileri tarafından soruşturma altında. Şikayet, OpenAI’nin üretken yapay zeka sohbet robotu ChatGPT’nin, kamuya mal olmuş bir kişi hakkında ayrıntılı bilgi istendiğinde yanlış bilgi sağladığını iddia ediyor.

Tanınmış bir yapay zeka (AI) geliştirme şirketi olan OpenAI, şu anda Avusturyalı bir veri koruma savunuculuğu kuruluşu tarafından kendisine karşı yapılan bir gizlilik şikayetinin odak noktasıdır.

29 Nisan’da Noyb, sohbet robotları ChatGPT tarafından sağlanan hatalı verileri düzeltemediklerini iddia ederek OpenAI’ye karşı bir şikayette bulundu. Kuruluş, bu eylemlerin veya eyleme geçmemenin Avrupa Birliği’ndeki gizlilik düzenlemelerini ihlal edebileceği yönündeki endişelerini dile getirdi.

Rapora göre, kimliği açıklanmayan tanınmış bir kişi, OpenAI’nin chatbot’undan kendisi hakkında bilgi talep etti ancak defalarca yanlış bilgi aldı.

OpenAI’nin, kamuya mal olmuş bir kişinin verileri değiştirme veya silme yönündeki dilekçesini, bu tür eylemlerin yeteneklerinin ötesinde olduğunu açıklayarak reddettiği bildirildi. Ek olarak, eğitim veri setlerinin ayrıntılarına ve kökenine ilişkin gizliliği korudular.

Noyb veri koruma avukatı Maartje de Graaf, dava hakkında yaptığı açıklamada şunları söyledi:

“Bir sistem doğru ve şeffaf sonuçlar üretemiyorsa bireyler hakkında veri üretmek için kullanılamaz. Teknolojinin yasal gereklilikleri takip etmesi gerekiyor, tersi değil.”

Noyb, Avusturya veri koruma yetkilisine şikayette bulunarak, OpenAI’nin verileri nasıl işlediğini ve büyük dil modelleri tarafından kullanılan kişisel bilgilerin doğruluğunu sağlamaya yönelik prosedürlerini incelemelerini istedi.

De Graaf’a göre mevcut işletmelerin, kişisel verileri işlerken ChatGPT gibi sohbet robotlarının AB yasalarına uygunluğunu sağlamakta zorlandığı açık.

Dijital haklara odaklanan bir araştırmacı olarak, Avrupa Dijital Haklar Merkezi olarak da tanınan Noyb’ü Avusturya’nın Viyana şehrinde bulunan bir kuruluş olarak tanımlarım. Misyonumuz, Avrupa Genel Veri Koruma Yönetmeliği (GDPR) yasalarını destekleyen stratejik yasal eylemlere ve medya kampanyalarına öncülük etmektir.

Chatbotların Avrupa’daki hem aktivistlerden hem de araştırmacılardan eleştiri aldığını daha önce gözlemlemiştim.

I. 2023 kışında, iki Avrupalı kar amacı gütmeyen kuruluş, Microsoft’un yenilenen ve Copilot olarak yeniden adlandırılan Bing AI sohbet robotunun, siyasi seçimler sırasında Almanya ve İsviçre’deki yerel seçimler hakkında hatalı veya yanıltıcı bilgiler yaydığını belirten bir rapor yayınladı.

Çalışkan bir araştırmacı olarak chatbot tarafından sağlanan bilgilerin doğruluğu konusunda bazı endişelerle karşılaştım. Aday bilgileri, anket sonuçları, skandallar ve oylama verileri açısından yanıtların gerçeklerle örtüşmediği durumlar vardı. Ayrıca bazı durumlarda alıntı yapılan kaynaklar yanlış alıntılanmış veya bağlam dışına çıkarılmıştır.

Bir kripto yatırımcısı olarak AB dışında bahsetmeye değer durumlarla karşılaştım. Böyle bir örnek, Google’ın Gemini AI sohbet robotunu içeriyordu. Bu bot, görüntü oluşturucusunda uygunsuz ve hatalı görüntüler üretiyordu. Olayların bu gidişatına şaşırdım ve hayal kırıklığına uğradım. Google sorunu kabul etti ve bir özür yayınlayarak gelecekte benzer olayların önlenmesi için modellerini güncelleyeceklerine dair güvence verdi.

2024-04-29 10:54