Florida'da OpenAI'a dava: Çocuklar için güvenli olmadığı iddia ediliyor

Florida Başsavcısı James Uthmeier pazartesi günü düzenlediği basın toplantısında, "Sam Altman ve ChatGPT, çocuklarımızın emniyeti ve güvenliği yerine yapay zekâ yarışını seçti. Kamu güvenliği yerine kârı tercih ettiler, Florida'da buna izin vermeyeceğiz." ifadesini kullandı.

Florida 10. Bölge Mahkemesinde açılan davada OpenAI; aldatıcı ve haksız ticari uygulamalar, ihmalkârlık ve ürün sorumluluğu yasalarını ihlal etmekle suçlanıyor. Dava dilekçesinde ayrıca, şirketinin faaliyetlerinin insan hayatı için oluşturduğu riskleri tamamen göz ardı ettiği gerekçesiyle Altman'ın, "Floridalılara verdiği zararlardan şahsen sorumlu tutulması" talep ediliyor.

Dava metninde ChatGPT'ye yönelik; kitlesel silahlı saldırganlara yardım etmek, intiharı teşvik etmek, kamusal itibar zedelenmesine yol açmak, reşit olmayanları ebeveyn denetimi olmayan bir araca bağımlı hale getirmek ve kullanıcıların eleştirel düşünme becerilerini kaybetmesine neden olmak gibi bir dizi suçlama yöneltiliyor.

OpenAI tarafından yapılan açıklamada ise reşit olmayanların ciddi şekilde korunması gerektiğine inanıldığı ve sektör lideri koruma önlemleri ile politikaların hayata geçirildiği savunuldu. Şirket, çocuklara yönelik doğrudan güvenlik önlemleri geliştirdiklerini, yaş tahmin aracı kullandıklarını ve ebeveynlere çocuklarının yapay zekâ kullanımını izleme imkânı sunduklarını belirterek, bu doğrultuda çalışmayı sürdüreceklerini bildirdi.

Başsavcı Uthmeier, OpenAI'ın programlamasını değiştirmesi gerektiğini ve şirketin milyarlarca dolarlık tazminat sorumluluğuyla karşı karşıya kalabileceğini ifade etti.

Ebeveyn denetimi eksikliği suçlaması

Dava, özellikle OpenAI'ın genç kullanıcılar için etkili ebeveyn denetimlerine sahip olmadığı suçlamalarına odaklanıyor. ChatGPT'nin ücretsiz sürümünde herhangi bir yaş doğrulama mekanizmasının bulunmadığı ve çocuk hesaplarının bir ebeveyn hesabına bağlanmasının zorunlu tutulmadığı aktarılıyor.

Dava dilekçesinde ayrıca, hesaplar birbiriyle bağlantılı olsa bile OpenAI'ın ebeveynleri endişe verici içerikler hakkında yalnızca belirli durumlarda bilgilendirdiği ve ebeveynlerin, çocuklarının ChatGPT ile paylaştığı bilgilere erişim talep edemediği iddia ediliyor.

Bu hukuk davası, Uthmeier'ın nisan ayında OpenAI'a karşı başlattığı ve şirketin geçen yıl Florida Eyalet Üniversitesinde meydana gelen kitlesel silahlı saldırıda "cezai sorumluluğu" bulunup bulunmadığına ilişkin ilk cezai soruşturmanın devamı niteliğini taşıyor.

Florida makamları, söz konusu saldırının failinin olay öncesinde ChatGPT ile üniversitedeki silahlı saldırıların detayları ve silah kullanımı hakkında kapsamlı görüşmeler yaptığını öne sürüyor.

OpenAI, nisan ayındaki açıklamasında yaşanan olayı bir trajedi olarak nitelendirmiş ancak ChatGPT'nin bu suçtan sorumlu olmadığını savunmuştu. Şirket sözcüsü, yapay zekânın internetteki açık kaynaklarda bulunan bilgileri içeren olgusal yanıtlar verdiğini, yasa dışı veya zararlı faaliyetleri teşvik etmediğini açıklamıştı.

Başsavcı Uthmeier, diğer eyaletlerin de bu hukuki mücadeleye katılmasını beklediğini ifade etti.

Daha önce de farklı eyaletler yapay zekâ şirketlerine karşı harekete geçmişti. Mayıs ayında Pennsylvania eyaleti, doktor taklidi yaptığı gerekçesiyle Character.AI şirketine dava açmış; ocak ayında ise Kentucky eyaleti, aynı şirkete çocukları kendine zarar vermeye yönlendirdiği iddiasıyla dava açmıştı.

Character.AI, bu suçlamalar karşısında çocuklara yönelik güvenlik özelliklerini geliştirdiklerini açıklamıştı.