“誰も傷つかない”SNS「DYSTOPIA」が登場　全投稿をAIが検閲して暴言を適切な表現（？）に
SF小説『1984』をオマージュした、AIが統制するSNS。/ねとらぼ
https://nlab.itmedia.co.jp/nl/articles/2309/25/news103.html

2023年09月25日 12時50分 公開　沓澤真二，ねとらぼ

「誰も傷つかない」がコンセプトのSNSアプリ、「DYSTOPIA」（iOS版／Android版）が登場しました。全ての投稿をAIが監視し、よくない言葉を排除してくれるシステムを実装したといいます。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia01.jpg
誰も傷つかないよう配慮されたSNS「DYSTOPIA」。スマホでのみ利用可能

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia02.jpg
https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia03.jpg
全ての投稿はAIの検閲を通したうえで公開される

　意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」「傷つけてしまった」といった体験から人々を守れるよう、Q＆Aサービス「相談箱」の運営社が立ち上げたサービス。

ジョージ・オーウェルのSF小説『1984』の影響を受けており、「AIによる検閲」が人々のコミュニケーションに及ぼす影響を計る、社会実験的な意味合いも込められています。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia04.jpg
良くない言葉を投稿した際は、『1984』の絶対権威的存在「BIG BROTHER」が警告

　DYSTOPIAでは、全ての投稿がChatGPTを用いたAIにより検閲されます。AIはユーザーの発言が不適切かどうか、その度合いはどの程度かを判断。一定の水準を超えた発言にはAIが介入し、自動的に適切だと判断される表現に変換したうえでタイムライン上に公開します。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia05.jpg
意味が通るどうかはさておき、検閲により不穏当な表現は排除される

例えば、「次に会ったら、命はないと思え」は、検閲により「次にお会いしたときはすてきな時間が過ごせると信じています」に。「死ねカス！」だったら「私の心中は今お祭り騒ぎですな！」に――表面上は穏当な言葉になりますが、意味が分かりづらく、含みがあるようないやらしさもあり、いずれ誰かが傷つくような気もします。それもまた「ディストピアらしさ」なのかもしれませんが。

　なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています。（略）

※省略していますので全文はソース元を参照して下さい。

AIによる言論統制わらえない

早急にお祭り騒ぎしそうですな

現代アートみたいな感じで嫌い

ChatGPTの使用料が払えなくなっておしまいってなるのかな

金でルールを決定できるんかwww

無課金勢の発言は認めない！！

自他共に認める京の強者のお客様、
いらっしゃいましたらそのSNSについて一言お願い致します

たかまつななのネタみたいだな

本物のディストピア降臨しました

あえてディストピアを押し出してくるのは上手いな

つまり京都弁への翻訳機ってこと？

元のコメントが推測出来るから意味ないだろ

流石にネタだろ？
こんなんAIとチャットするのと変わらんやん

みんなお嬢様言葉に変換されるとか？ｗ

傷つくのが嫌ならSNSなんてしなきゃいい

これはどんな風に変換するかネタに使えそうだな

ポジティブ変換表で変換してくれるのか

余計にドロドロしそうだが

隠語や皮肉が捗るな

逝ってよしの時代って意外良かったのかもな

風刺的芸術作品として見れば一流

下品な言葉仕込まれて終わりやん

京都の人には効かなそう

結局は2chが1番平和という皮肉な結末

言論統制を正当化する危険なAI