dev
2022.12.22
【音声認識時のNGワード無害化】Sotaクラウド上で不快、あるいは不快かもしれない言葉を検出・フィルタリング・無害化について
Vstone
Sotaサポートさま

お世話になっています。
件名の通りです。
お忙しいところ申しわけありませんが、お目通しいただけると幸甚です。

何卒宜しくおねがいします。


************************************************************************************

・聞きたいこと
エンドユーザーがSotaに放送禁止用語(不快、あるいは不快かもしれない言葉)含む内容で話しかけたとします。
その場合、Sotaクラウド側の処理で該当言葉を検出・フィルタリングし、無害な内容に変換し応答をするような仕様はありますか。
ない場合には、開発者責任で上記の無害化処理をアプリに組み込む対応になるという認識でしょうか。
NGワードへの取り扱いについて、Sotaクラウドの音声解釈処理の仕様や詳細について、ご教示お願いします。


〜会話ユースケース〜
_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/
エンドユーザー:「こんにちは、放送禁止用語(不快、あるいは不快かもしれない言葉)ってどう思う?」
Sotaクラウド:NGワードを検出したので、無害な応答を返す処理が実行される。
Sota:「こんにちは、よくわからないなあ、ごめんね。」
_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/



・背景
公共福祉施設内にSotaを設置した場合、一定の配慮をしないといけないため。
(小さいお子様や小中学生の方が近くにいらっしゃるような状況を想定。)
開発者責任でNGワードを検出するのは、処理が煩雑になり網羅できない可能性が高いあるため。
もしSotaクラウドが上記のようなNGワードのマッチング・無害化をやっていれば、管理が楽になると考え、本質問に至りました。
*************************************************************************************
回答
Sotaサポート
2022.12.23
dev様

お世話になります。Sotaサポートです。
NGワードの判別などについては、Sotaでは搭載されておらず、また、今後搭載する予定もありません。
想定されるNGワードの種類やそれに対する対応などは利用環境によって異なるため、ユーザ側で独自に実装していただく想定となります。
この質問に回答する
 

Page Top