Yapay zeka alanında yaptığı yeniliklerle tanınan OpenAI şirketi, şimdi de kendi yapay zeka modellerini denetlemek için harekete geçti.

Yapay zeka alanında yaptığı yeniliklerle tanınan OpenAI şirketi, şimdi de kendi yapay zeka modellerini denetlemek için harekete geçti.

OpenAI cephesinden, ‘Dünya nereye gidiyor?’ sorusunu bir kez daha sordurtacak yeni bir yapay zeka haberi geldi. Buna göre şirket, yapay zekanın potansiyel tehlikelerini kontrol altına almak için yapay zeka tabanlı bir çözüm üzerinde çalıştığını duyurdu.

OpenAI’ın bu yeni girişimi sayesinde, yapay zekayı denetlemek için dahi bir insan gücüne gerek kalmayacak günlere yaklaştığımız gözler önüne seriliyor. İşte detaylar…

Yapay zeka denince akla ilk gelen firmalardan olmayı başaran OpenAI, adeta yerinde duramıyor.

Şirket, yaptığı son açıklamayla, yapay zeka modellerinin insanlarla olan iletişimini denetlemek, varsa hatalarını gidermek ve etik sorunlarını bildirebilmek için farklı bir yapay zeka geliştirdi.

Özellikle GPT-4o gibi gelişmiş ve çok fazla kişiye ulaşan yapay zekalarla çalışırken, denetim mekanizmasının güçleşmesinden yakınan şirket, yeni bir formül üretti.

Yine GPT-4 tabanlı olan ve CriticGPT adı verilen yeni yapay zeka modeliyle, ChatGPT’deki hatalar tespit edilebiliyor.

CriticGPT her çalıştırıldığında, sistemdeki bir hatayı bulma konusunda yüzde 60 oranında başarılı olabildiği de tespit edilmiş.

Geçmişte DALL-E 2’deki hataların keşfi için Kenya’lı işçilerle, saatliği sadece 2 dolara çalıştığı ortaya çıkan OpenAI böylece masraflarını minimize etmenin farklı bir yolunu daha bulmuş oluyor.