Araştırmacılar ChatGPT’nin “ilacını” buldu: DetectGPT, ChatGPT’nin kabusu olacak!

Samuag

New member
ChatGPT üzere büyük lisan modellerinin (LLM’ler) kullanması süratle artıyor. Bunun sebebi de işlerini fazlaca âlâ yapıyor olmaları. Aslında, o kadar güzel ki, üniversite dersleri için açık ve ikna edici makaleler bile oluşturabiliyor. Bu niçinle artık, makine tarafınca oluşturulan metinleri algılayan sistemlere muhtaçlık duyuluyor.

Kısa bir süre evvel Stanford’daki bir küme araştırmacı DetectGPT isminde yeni bir usul önerdi ve bu prosedürün yükseköğretimde üretilen metinlerle gayrette kullanılacak birinci araçlardan biri olmasını hedefliyor. Usul, LLM’ler tarafınca üretilen metinlerin tipik olarak modelin mümkünlük işlevinin negatif eğrilik bölgelerinin makul bölgeleri etrafında dolaştığı fikrine dayanıyor. Bu içgörü yardımıyla takım, metnin makine tarafınca üretilip üretilmediğini kıymetlendirmek için bir yapay zekayı eğitmeye yahut metni karşılaştırmak için büyük data kümeleri toplamaya dayanmayan yeni bir sistem geliştirdi.

  • Son günlerin en tanınan konusu: ChatGPT nedir? ChatGPT nasıl kullanılır?
Sıfır atış” olarak isimlendirilen bu yol, DetectGPT’nin makine tarafınca yazılmış metni, onu üretmek için kullanılan yapay zeka hakkında rastgele bir bilgi olmadan tespit etmesini sağlıyor. Eğitim ‘sınıflandırıcıları’ ve gerçek ve üretilmiş pasajlardan oluşan bilgi kümeleri gerektiren başka formların tam bilakis çalışıyor.

Ekip DetectGPT sistemini bir dizi düzmece haber makalesinde kullandı ve sistem sahteleri ayıklamak açısından başka tanımlama formlarından çok daha düzgün bir iş çıkardı. DetectGPT makineler tarafınca üretilmiş olan metinleri en yeterli tespit edecek sistem olabilir.

Özetle, DetectGPT, LLM’ler tarafınca oluşturulan metni tespit etmek için yeni bir metot. Rastgele bir ek data yahut eğitim gerektirmiyor, bu da onu makine tarafınca oluşturulan metni tanımlamak için verimli ve tesirli bir araç haline getiriyor. LLM’lerin kullanması artmaya devam ettikçe, makine tarafınca oluşturulan metinleri tespit etmek için ilgili sistemlerin değeri giderek daha kritik hale gelecek üzere görünüyor.

DetectGPT, biroldukça alanda kıymetli bir tesire sahip olabilecek umut verici bir yaklaşım ve daha da geliştirilmesi biroldukca alan için faydalı olabilir.