AB Yapay Zekâ Yasası’nda Yeni Şeffaflık Kuralları
Yapay Zekâ Tarafından Üretilen İçerikler İşaretlenecek
Yeni düzenlemelere göre belirli yapay zekâ içeriklerinin açık ve görünür biçimde etiketlenmesi gerekiyor. Bu içeriklerin yalnızca kullanıcılar tarafından görülebilen bir açıklama taşıması yeterli olmayacak. İçeriklere, yapay zekâ tarafından üretildiklerinin veya değiştirildiklerinin teknik olarak tespit edilmesini sağlayan, makine tarafından okunabilir işaretler de eklenecek.
Avrupa Birliği, bu amaçla kullanılabilecek ortak simgeler de oluşturdu. Böylece yapay zekâ tarafından üretilen veya değiştirilen içeriklerin farklı platformlarda daha kolay tanınabilmesi amaçlanıyor.
Şeffaflık yükümlülükleri kapsamında:
- Yapay zekâ tarafından üretilen veya değiştirilen içeriklere makine tarafından okunabilir işaretler eklenecek.
- Gerçek kişileri, nesneleri, yerleri, kurumları veya olayları taklit eden ve gerçekmiş izlenimi veren görüntü, ses ve video içerikleri, diğer bir ifadeyle deepfake içerikler, açıkça etiketlenecek.
- Duygu tanıma veya biyometrik sınıflandırma araçlarının kullanıldığı kişiler bu konuda bilgilendirilecek.
- Kamu yararını ilgilendiren konularda kamuoyunu bilgilendirmek amacıyla yayımlanan, ancak insan incelemesinden veya editoryal kontrolden geçmemiş yapay zekâ üretimi metinlerin niteliği açıkça belirtilecek.
Bu düzenleme sayesinde kullanıcıların, karşılaştıkları görüntü, video, ses kaydı veya metnin yapay zekâ tarafından üretilip üretilmediğini ya da değiştirilip değiştirilmediğini daha sağlıklı değerlendirebilmesi bekleniyor.
Sohbet Robotları ve Yapay Zekâ Ajanları Kendilerini Açıkça Tanıtacak
Şeffaflık yükümlülükleri, kullanıcıların yapay zekâ sistemleriyle kurduğu etkileşimleri de kapsıyor.
Kullanıcılar, gerçek bir kişiyle değil, bir yapay zekâ sistemiyle iletişim kurdukları konusunda açıkça bilgilendirilecek. Bu yükümlülük; sohbet robotları, yapay zekâ ajanları, sanal asistanlar ve dijital avatarlar gibi kullanıcılarla doğrudan iletişim kurabilen sistemleri ilgilendiriyor.
Bir işletmenin müşteri hizmetlerinde, internet sitesinde veya diğer dijital platformlarında yapay zekâ destekli bir sistem kullanması halinde, kullanıcıya gerçek bir kişiyle değil, bir yapay zekâ sistemiyle iletişim kurduğu anlaşılır biçimde bildirilecek. Böylece yapay zekâ sistemlerinin gerçek bir müşteri temsilcisi veya başka bir kişi olduğu izlenimini vermesinin önüne geçilmesi amaçlanıyor.
Avrupa Komisyonundan Uygulama Rehberi
Avrupa Komisyonu, yapay zekâ sistemi sağlayıcılarının ve bu sistemleri kullanan kuruluşların yeni şeffaflık yükümlülüklerine uyum sağlamasına yardımcı olmak amacıyla bir uygulama rehberi yayımladı.
Rehberde şu konulara açıklık getiriliyor:
- Hangi sistemlerin şeffaflık yükümlülükleri kapsamında olduğu
- Kullanıcılara yapılacak bilgilendirmenin nasıl sunulması gerektiği
- Yapay zekâ üretimi içeriklerin nasıl işaretlenebileceği
- Yükümlülüklere uyumun nasıl belgelendirilebileceği
Kuruluşlar, yayımlanan uygulama koduna uyarak şeffaflık yükümlülüklerini nasıl yerine getirdiklerini gösterebilecek. Uygulama koduna katılım gönüllü olmakla birlikte, mevzuatta belirlenen şeffaflık yükümlülüklerine uyulması zorunlu. Bu yaklaşımın, farklı sektörlerde ve kullanım alanlarında daha tutarlı uygulamalar geliştirilmesini desteklemesi bekleniyor.
Kuralları Hangi Kurumlar Denetleyecek?
Yeni şeffaflık hükümlerinin uygulanmasından, sistemin niteliğine ve kullanım alanına göre farklı kurumlar sorumlu olacak.
Ulusal piyasa gözetim otoriteleri, kendi yetki alanlarındaki yapay zekâ sistemlerini denetleyecek. Avrupa Yapay Zekâ Ofisi, gözetimi altında bulunan sistemler bakımından uygulama ve yaptırım yetkisini kullanacak. Avrupa Birliği kurumlarının yapay zekâ sistemi sağlayıcısı veya kullanıcısı olduğu durumlarda ise denetim Avrupa Veri Koruma Denetçisi tarafından yürütülecek.
Bu kurumlar, yapay zekâ sistemlerinin şeffaflık yükümlülüklerine uygun biçimde tasarlanıp kullanılmadığını inceleyebilecek ve ihlal halinde idari yaptırım uygulayabilecek.
İhlallerde 15 Milyon Avroya Varan Para Cezaları
Şeffaflık kurallarının ihlali halinde şirketlere 15 milyon avroya veya toplam küresel yıllık cirolarının yüzde 3’üne kadar idari para cezası uygulanabilecek.
Avrupa Birliği kurumları, organları ve ajansları için öngörülen azami para cezası ise 750 bin avro olarak belirlendi.
Yaptırımların uygulanmasında ihlalin niteliği ve ağırlığının yanı sıra kuruluşun büyüklüğü de dikkate alınacak. KOBİ’ler ve görece küçük ölçekli orta büyüklükteki şirketler bakımından ölçülülük ilkesi gözetilecek.
Bununla birlikte düzenleme, işletmeler açısından yalnızca yüksek para cezaları nedeniyle önem taşımıyor. Yapay zekâ kullanımı konusunda yeterli bilgilendirme yapılmaması, müşteri güveninin zedelenmesine, marka itibarının zarar görmesine ve kullanıcıların yanıltıldığı yönünde değerlendirmelere yol açabilir.
AB Yapay Zekâ Yasası Kademeli Olarak Uygulanıyor
Avrupa Birliği Yapay Zekâ Yasası, 1 Ağustos 2024 tarihinde yürürlüğe girdi. Ancak düzenlemenin bütün hükümleri aynı tarihte uygulanmaya başlamadı. Farklı yükümlülükler, belirlenen geçiş takvimine göre aşamalı olarak devreye alınıyor.
2 Ağustos 2026 tarihinde uygulanmaya başlayan şeffaflık hükümleri de bu kademeli sürecin önemli aşamalarından birini oluşturuyor.
Yasa ile Avrupa Birliği genelinde güvenilir yapay zekâ sistemlerine yönelik ortak ve uyumlaştırılmış kurallar oluşturulması hedefleniyor. Düzenleme bir yandan yapay zekâ alanındaki yenilikleri ve teknolojinin benimsenmesini desteklerken diğer yandan insanların sağlık, güvenlik ve temel haklarının korunmasını amaçlıyor.
Şeffaflık, Yapay Zekâ Kullanımının Temel Unsuru Haline Geliyor
Yeni kurallar, yapay zekâ kullanan şirketler ve kurumlar açısından şeffaflığın artık isteğe bağlı bir uygulama olmadığını gösteriyor. Kullanıcıların bir yapay zekâ sistemiyle etkileşim kurduklarını bilmeleri ve yapay zekâ tarafından oluşturulan içerikleri tanıyabilmeleri, güvenilir yapay zekâ kullanımının temel koşulları arasına giriyor.
Bu nedenle sohbet robotu, yapay zekâ ajanı, sanal asistan, içerik üretim sistemi, duygu tanıma aracı veya biyometrik sınıflandırma teknolojisi kullanan kuruluşların mevcut uygulamalarını gözden geçirmesi önem taşıyor. Kullanıcılara sunulan bilgilendirmelerin açık, görünür ve anlaşılır olması, yapay zekâ üretimi içeriklerin ise ilgili kurallara uygun biçimde işaretlenmesi gerekiyor.
Avrupa Birliği’nin yeni yaklaşımı, yapay zekâ kullanımını sınırlandırmaktan çok, teknolojinin insanları yanıltmadan, temel haklara zarar vermeden ve güven ilişkisini koruyarak kullanılmasını sağlamayı amaçlıyor.