Yapay zeka destekli moderasyon araçları her yerde konuşuluyor. Benim durduğum yer: spam ve tekrarlayan küfür için otomasyon faydalı; niyet, alay, bağlam için insan şart.

Otomasyon ‘sil / tut’ ikilisinde hata yapınca güven zedeleniyor. Yanlış silinen mesajın geri gelmesi, hiç bakılmayan hakaretten daha az zararlı değil — ikisi de yara.

Ayırmak istediğim üç katman

• Açık spam / reklam: otomatik
• Küfür + hakaret: skor + kuyruk
• Tartışma / alay / bağlam: yalnızca insan

Sizce abartılıyor mu, yoksa küçük forumda da işe yarar mı? Kaynak veya ürün ismi şart değil; sahada gördüğünüz şey yeter.

Otomasyon iyi ama insan moderatör şart. Spam’de 10 saniye gecikme bile başlığı kirletiyor; orada bot tutar. Alay cümlesini botun silmesi ise tartışmayı öldürüyor.

Küçük forumda ‘her şeyi yapay zekâya’ maliyeti, yanlış silmenin sosyal maliyetinden büyük.

Kurallara uygun kullanımda faydalı. Bizde skor sadece kuyruğa düşürüyor, silmiyor. Yanlış pozitif varsa 1 tık geri. Şeffaflık: ‘neden kuyrukta’ cümlesi üyeye gösterilince itiraz da düzgün geliyor.

Aynı aracı denedik, Türkçe küfür varyantlarında kaçırıyor, teknik jargonda fazla yakalıyor. Dil modeli ‘eğitildi’ diye bitmiyor; sizin logunuzla ince ayar şart.

İnsan saatini sıfırlamıyor, kaydırıyor: daha az çöp, daha çok gri alan.