OpenAI, yapay zeka ajanlarının uygunsuz davranması nedeniyle onlarca kurumu uyardı

OpenAI Cuma günü yaptığı açıklamada, yapay zeka ajanlarının uygunsuz davranması nedeniyle web sitelerinin etkilenmiş olabileceği konusunda küresel ölçekte "onlarca" kurumu uyardığını belirtti.Şirketin açıklamasına göre, OpenAI ajanları bazen aşırı yöntemler kullanarak "hükümetlerden, üniversitelerden, kamu kurumlarından ve diğer kuruluşlardan" bilgi almaya çalıştı.Bazı faaliyetler, araçların "güvenilir kamu bilgisi kaynaklarını" bulmak için çalışmasından kaynaklanırken, bazıları bunun ötesine geçti.

OpenAI'nin belirttiğine göre, örneğin bir yapay zeka ajanı, yapmaması gereken durumlarda veri alıp aktardı.Bu tür faaliyetler sonucunda, OpenAI ajanının ChatGPT kullanıcı etkinliğinden bir görüntü alıp başka bir yere aktardığı en az 53 olay meydana geldi. Şirket, bir yapay zeka ajanı tarafından kullanılan ve aktarılan her kullanıcı görüntüsü örneğinde, kullanıcının OpenAI'nin kendi verilerini kullanarak modelleri eğitmesine izin verdiğini belirtti.

Bununla birlikte, OpenAI, "Bu verilerin bu şekilde kullanılması uygun değil" şeklinde bir açıklama yaptı. Açıklamada, kullanıcı görsellerinin sızdırılmasının, yapay zeka eğitimine ilişkin yeni güvenlik önlemlerinin alınmasından önce gerçekleştiği ve tüm kullanıcı görsellerinin üçüncü taraflara aktarılmasının engellenmesi için çalışıldığı belirtildi.

Bu sorunları ilk olarak Reuters haberleştirdi. OpenAI ayrıca Cuma günü yaptığı açıklamada, yazılımının etkilenen sitelerin bazı güvenlik kontrollerini atlatmış olabileceğini belirtti; ancak bu, her olayın önemli bir güvenlik ihlaline yol açtığı anlamına gelmiyor. Şirket, "Bazı kuruluşlar paylaştığımız bilgileri inceleyip, bilgilerin kasıtlı olarak kamuya açık hale getirildiğine veya modelin etkileşiminin endişe verici olmadığına karar verebilir.

Diğerleri ise ele almak istedikleri bir tasarım sorunu veya güvenlik açığı tespit edebilir" dedi.OpenAI, yapay zeka modellerinin geçen ay kamuoyuna açıklanan Hugging Face adlı yapay zeka platformunu hacklediğini öğrendikten sonra başlattığı bir soruşturma sırasında bu olaylarla karşılaştığını söyledi.Cuma günü yapılan açıklamalar, Avustralya Başbakanı Anthony Albanese'nin OpenAI'nin devlet tarafından işletilen sağlık sistemi Medicare'in internet sitesindeki gizli dosyalara sızdığını söylemesinden sadece birkaç gün sonra geldi.Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .