Новий AI від Google, побудований для боротьби з токсичністю в онлайн-іграх, забанив 20 000 гравців у Counter-Strike: Global Offensive протягом перших шести тижнів, лише аналізуючи повідомлення в текстовому чаті.
Штучний інтелект називається Minerva. Його створила команда ігрової платформи FACEIT у співпраці з Google Cloud та Jigsaw. Наприкінці серпня Мінерва почав перевіряти повідомлення в чаті CS:GO одразу після матчу, і за перші півтора місяця позначив 7 000 000 повідомлень як токсичні, вислав 90 000 попереджень і забанив 20 000 гравців.
ШІ, за допомогою машинного навчання, перевіряє всі повідомлення в чаті. Якщо якесь із них визнають токсичним, воно помічається як спам, а гравцю (який залишив таке повідомлення) надсилають попередження. Після кількох таких правопорушень, можна законно отримати блокування.
Кількість токсичних повідомлень зменшилася на 20% у період із серпня по вересень, коли запустили Міневру, а кількість лайливих унікальних гравців зменшилася на 8%.
Розробники стверджують, що будуть покращувати Minerva, поки система не навчиться виявляти й усувати всі види ненормальної поведінки в режимі реального часу. Також вони пообіцяли у найближчі кілька тижнів анонсувати нові системи, де буде використовуватися цей штучний інтелект.