ChatGPT hatırlayabilmek kendi dilini icat etti
ChatGPT'nin kullanıcılarla sohbet geçmişini aklında tutabilmek ve hatırlamak için kendi şifreli dilini geliştirdiği ortaya çıktı.
Gelişmelerden anında haberdar olmak için Google News'te Paradurumu'na abone olun
Paradurumu'na Google News'te abone olun
Abone OlABD merkezli yapay zeka firmasının geliştirdiği sohbet botunun yarattığı dili ilk keşfeden Greg Fodor adlı bir Bitcoin destekçisi oldu. Fodor, sohbet botunun diline "Shogtongue" adını verdi.
ChatGPT'nin kendi dilini üretmesinin arkasındaki neden bellek sorunu. Bu tür büyük dil modelleri internetteki milyonlarca sayfa, kitap ve diğer metin verileriyle eğitiliyor. Ancak bir kullanıcıyla fiilen sohbet ederken, "akılda" tutabileceklerinin sınırı var.
Sınır 64 bin kelimeye çıkarıldı
GPT-3,5, yani ChatGPT'nin eski sürümünde bu sınır, yaklaşık sekiz bin kelimeydi. Bu, bir kitabın dört ya da beş sayfasına denk geliyor. GPT-4'te ise sınır, 64 bin kelimeye çıkarıldı. Bu da 50 sayfalık metin anlamına geliyor. Öte yandan 50 sayfalık sohbetin ardından ChatGPT'nin kullanıcıyla ne konuştuğunu hatırlaması mümkün olmuyor ve sohbet burada kesiliyor.
Yeni nesil GPT-4 dil modeline dayanan ChatGPT sürümü, bu problemi kendi "sıkıştırılmış" dilini icat ederek aşmanın yolunu buldu. Bu da kullanıcıların sohbet botundan bir metni görünüşte rastgele harfler, sayılar ve simgelerden oluşan bir diziye sıkıştırmasını isteyebileceği anlamına geliyor.