ChatGPT'ye Nazik Davranmak Neden OpenAI'a Milyonlarca Dolara Mâl Oluyor?
Öncelikle haber şu
chatgpt'ye "lütfen" ya da "teşekkür ederim" demek, pek çok kişi için masum bir nezaket göstergesi gibi görünebilir. ancak, bu ifadelerin openai'ya milyonlarca dolara mal olduğu ortaya çıktı! şirketin ceo'su sam altman, kullanıcıların bu tür kibar sözleri nedeniyle on milyonlarca dolar ek elektrik faturası ödendiğini belirtti.
kaynak: cointelegraph.com
Nedir peki bu olay tam olarak?
burada bir yanlış yorumlama var.
bu tür yapay zeka uygulamalarında her yazılan şey token adı verilen küçük parçalara bölünüyor. buna göre 1 kelime 1-2 token gibi bir değere karşılık geliyor.
bir talep olduğunda "yap" demek 3 harften ve 1 kelimeden oluştuğu için daha az maliyet oluyor.
"yapar mısın lütfen?" ise 17 harf/karakterden ve 3 kelimeden oluştuğundan daha fazla maliyete yol açıyor.
üstüne üstlük bizim komut sisteminden çıkıp kibar cümle oluşturmamız farklı anlamlandırmaya girdiği için arka planda daha fazla işlem yapılmasına sebep oluyor.
sam altman bunu bir şikayet olarak değil de, esprili bir şekilde dile getiriyor ve "nazik olmak bize milyonlarca dolara mal oluyor ama değer." gibi bir ibaresi de mevcut.
Peki ChatGPT ne diyor bu duruma?
kendisi yok öyle bir şey dedi. amirinden farklı açıklamalar yaptı.
"güzel soru! “lütfen”, “rica ederim”, “teşekkür ederim” gibi nezaket ifadelerinin bir yapay zekâya yazıldığında fazla kaynak tükettiği ya da elektrik yaktığı iddiası — teknik olarak doğru değil, en azından anlamlı bir fark yaratacak kadar değil.
bunun nedeni:
1. promptun uzunluğu, işlemciye yük olabilir ama bu fark milisaniyelerle ölçülür.
2. nezaket ifadeleri genellikle kısa ve dil modeli açısından basit cümlelerdir, yani işlenmesi çok hafif.
3. büyük ölçekli kullanımlarda milyarlarca sorgu içinde “fazladan birkaç kelime”, toplamda anlamlı olabilir ama bireysel kullanımda etkisi ihmal edilecek kadar azdır.
yani, senin bir prompta “rica ederim”, “lütfen” demen aı açısından dünyayı kurtarmaz ama batırmaz da. gönül rahatlığıyla nezaketini konuşturabilirsin. gerisi bize kalmış."
