こんにちは。このブログを管理している（ブルーベリー）ラッシーです。
前回のざわざわ先生の記事に続き、「ざわらしまろ」の2022春JDA記②。今回は、タイトルのとおり、ディストーション（ディベート中での証拠資料＝エビデンスの歪曲）について書いていきます。
（目次）
１．はじめに
２．代表的なディストーション例
３．機械翻訳について
４．どうすれば防げるのか
（2022.4.6.追記）
翻訳まわりについての話をもっとしてほしかったという声があったので、そのうち加筆します。
（2022.4.8.追記）
「３．機械翻訳について」を別稿にて追記しました。
１．はじめに
今シーズンは、これまで以上にディストーションを目にすることが多かったのではないか、という気がしています。そしてそれは、質的にも放置は許されないレベルに感じられてしまいました。
論題が「フェイクニュースの法規制」であり、多くの参加者が「虚偽の情報が混じると正当な議論ができなくなる」といった旨のスピーチを繰り広げていたこの折ですから、ディベートにおけるフェイク＝ディストーションについて考え直してみる機会としても良いのではないかと感じ、筆を走らせている次第です。
はじめに断っておくと、以下では練習試合や大会本番で見られたディストーションの例を具体的に扱いますが、決してディストーションの形で資料を引用した個人や特定チームを批判するために本稿を書いているのではありません。フェイクニュースに関する領域で「生態系（ecosystem）」という考え方が鍵となっていたように、全体として、どんなふうにしていけば防げるのだろうか、といったことを考えるために書いています。本稿の最後でも書いていますが、この問題解決に向かって色んな人の意見が聞きたいなという思いです。
２．代表的なディストーション例
２－１．「フェイクニュースは極めて短時間で拡散し切ってしまうから法規制は無意味」なのか？
とても強い反駁を耳にしたので、私も読みたいと思い原典に当たってみたら、ディストーションでがっかりした、という事例です。内容としては、「フェイクニュースは最初の1時間でシェアの53％が済んでしまい、24時間以内には消費され尽くすので、『24時間以内に削除するor7日以内に対応する』といった法規制では解決性がない」といったものでした。実際に試合で引用されていた文は、こんな感じです（“real news” を「実際のニュース」とされていたのを、「偽のニュース」との対応を考えて「真実のニュース」とするなど、軽微な訳の修正を施しています）。
シンガポール国立 南洋理工大学 Palら 2019年 和訳[1]
この調査研究の目的は、調査の流れにもとづいて、ソーシャルメディアによる伝播のパターンにおいて、偽のニュースが真実のニュースとどのように異なるかを調べることです。適切な周期性が設定されるために、文献がレビューされました。とくに参考文献は、ソーシャルメディアプラットフォーム上のシェアの53％が最初の1時間に発生すると仮定しましたが、最初の24時間までにシェアはほとんど無視できる程度に低下します[2]。
これに加えて、よく知られる「ファクトチェックは膨大な時間がかかる」などの分析を読むことで、法規制の解決性にかなり大きな疑義を突きつけることができます。強い。
しかし、残念ながら、この引用はディストーションです。論文の結論では、この仮定とは真逆の結果が出たことが示されています。
第二に、時間が経つにつれてフェイクニュースのツイートの規模が大きくなり、より広い範囲へ持続的に伝播していることがわかる。これは、フェイクニュースの伝播を長引かせるための、ソーシャルメディア利用者の協調的な努力によるものかもしれない。したがって、フェイクニュースの寿命は長く、その話題性は未来永劫いつでも容易に復活する可能性がある。第三に、真実のニュースのツイート量は初日で急激に減少する一方で、フェイクニュースではそのようなことがない。本物のニュースは1日経つと価値が下がるが、フェイクニュースは人気が持続する。この発見は、ソーシャルメディア上でのメッセージの伝播パターンを分析するためには最初の24時間を考慮する必要があることを示唆した先行研究を発展させる（expand）ものである。実際、最近の研究に依っても、フェイクニュースは真実のニュースと違って24時間の壁を超えてくるという[3]。
要は、「ニュースの伝播の仕方は一般にこんな感じと言われているから、とりあえずそんな風に仮定を置いてみるよ」「分析してみたらフェイクニュースには仮説みたいな一般論は当てはまらないことがわかったよ」といった研究です。この引用の仕方では、前者の「とりあえず一般論に沿って仮定を置いてみるよ」の部分だけを抜き出しているような形になってしまっています。
２－２．「『明白に』違法なものだけが削除されている」のか？
解決性の証明、あるいはオーバーブロッキングというデメリットの否定のために、複数のチームが引用していました。たとえば、ある試合ではこのように言われていました。
ライプチヒ応用科学大学 リージングら 2021年 和訳[4]
むしろ、苦情の対象となったコンテンツの多くは、3条2項2号にいう「明白な」違法性のあるケースであり、24時間という短期間で問題なく削除できるものであるとも考えられる。時折、法律文献は、迅速にブロックまたは削除されたコンテンツは、「その証拠により綿密な審査」を必要としなかったと述べ、24時間以内の大量の削除を明確に正当化している[5]。
ドイツ語の原文をDeepLに入れて日本語訳させると、この文が出てきます。「削除は明確に正当化している」……ってどういうこと？ みたいな訳の問題もありますが、こんな感じでほとんどそのまま引用されているものを耳にしました。
また、決勝戦では、よりわかりやすい日本語訳のもと、次のように引用されていました。
むしろ、当該コンテンツの多くは、3条2項2号にいう「明白な」違法性のあるケースであり、24時間という短時間で問題なく削除できるものであるとも考えられる。法的文献では、24時間以内の削除の多くは、迅速にブロック・削除されたコンテンツが、「その証拠性から深い検討」を必要としないことを、明確に正当化するものである。
ただし、文意のつかみやすさという意味での訳の技術は、問題ではありません。問題は、この後にどんな文が続くかです。節や段落が変わるわけでもなく、この続きはこのような内容になっています。筆者なりに、文の構造よりもわかりやすさを重視して雑に訳すと、こうなります。
言うまでもなく、この反論は誤った前提に基づいている。ネットワーク執行法1の3に反するとして処理されるという前提が置かれているが、実際には個別のコミュニティガイドラインに基づいて24時間以内に削除されてしまっている。このガイドラインでの審査のほうが、ネットワーク執行法よりも先に来るので、この理由だけでは刑法／ネットワーク執行法に違反するという証拠になりえないのだ[6]。
最初の一文で、ディストーションであることは明らかになります。
続く内容も、「ネットワーク執行法の適用よりも各社のガイドラインの適用の方が来るので、こちらで処理されるとネットワーク執行法違反としてはカウントされない。ゆえに、オーバーブロッキングが起きていないことの根拠にはなりえない。」といったもので、引用されていた部分を批判・訂正するようなものになっています。
さらにはこのように続きます。
それにもかかわらず、連邦政府はこのデータを「NetzDGの時間制限の実効性を示すもの」として、「迅速な」審査と評価している。が、ソーシャルネットワークに行った質的調査・インタビューでは、逆の結論に達している。Twitterは「法違反が明白なケースは多くない」「明白でないケースの方が多い」と述べる。またYouTubeは、「厳しい納期によって、疑わしい場合でも ただ苦情が届いたというだけでコンテンツを削除する強い動機が生まれている。したがって、ほとんどすべてのケースで削除してしまうという結論に至っている」という。同様に、連邦司法省は、NetzDGに基づきコンテンツの違法性に関して受け取る報告の「圧倒的大多数」は明白ではなく、むしろ「疑わしいケース」であると述べている。しかしながら、これを処理するには複雑で多段階のレビューが必要であり、24時間では不可能なのである[7]。
さすがにここまで続くと、どう好意的に解釈しても、もとの引用の仕方ではディストーションと判断せざるを得ないのではないかと思われます。
さて、一方で、ここで問題例として挙げている「むしろ、……」の文が載っている節・パラグラフを、ちゃんと頭から読むことでも、おそらくこのディストーションは防げたのではないかと感じます。というのも、この節は次のように始まっているからです。
bb) 批判
ここで提示されたテーゼには、次のような反論がありえる。すなわち、「24時間以内に削除される割合が高いことは、法律的に曖昧な場合においても疑いのあるものを早計に削除しているということを、必ずしも意味しない」と[8]。
この文の次に、「むしろ、……」と続くようになっています。お読みいただければわかるとおり、この節は「このような批判が想定される」「しかし、それは誤りである」という内容になっているわけです。
引用した文の前を読めば「ここで言われているのはあくまで反対意見のアイデアの一つに過ぎないのだな」と、引用した文の後を読めば「ここで言われていたのは誤った前提に基づく反対意見だったんだな」とわかり、どちらか一方でも読んでいればこのディストーションは避けられたのではないでしょうか。
３．機械翻訳について （4月8日追記）
このような訳の問題は、どうして起きてしまうのでしょうか？
２．で見た例は、そもそも文の前後を読んでいないという、基本を疎かにしたがゆえにミスです。一方で、「和訳しての引用におけるディストーション」という問題も確かに存在しているようです。そして、これに関しても、今シーズンに始まったことではありません。（自分は選手として出場してはいませんが、）クォータ制や安楽死のときにも、ある文や節が丸々抜け落ちた形で引用されているものをいくつか見ました。
この背景としては、DeepLの存在が大きいと見ています。というのも、上のような例において、原文をDeepLに入れてみると まさに試合で読まれていた文が登場する、といったことがしばしばだったためです。すなわち、DeepLに入れて出てきたものをそのまま読んでいるディベーターが少なくない、と言えるでしょう。
それでは、DeepLの仕様において、どのような問題があるのか。別稿を据えて簡単に考えてみました。→飛ぶ
４．どうすれば防げるのか
最後に、「では、どうしたらよいのか？」を考えます。ただ、ここでは素朴なアイデアを羅列したにすぎません。この記事へのコメントや、TwitterなどのSNS上での反応として、「その対応はイケてないんじゃないか」とか「もっとこういう案もあるんじゃないか」とか、いろいろ聞かせてもらえると嬉しいです。
４－１．個人レベルでの取り組み
AbstractとConclusionだけでも読む
さすがに最低限これだけは読んでほしいという気持ちです。これをやるだけでも防げるものは大きいと思います。
前後を読む
同上です。防げるものは大きいと思います。
英語に訳す
今回の論題では、ドイツの事例が鍵となる場面が多く、自然と多くのチームがドイツ語の文献にも手を広げていました。翻訳機を使うにしても、「翻訳機から出てきたものが間違っていないかを判断できる」能力は条件として重要だと思いますが、これについては私もひとのことを言えません。ただ、簡易的な応急策として、このような場合、いきなり日本語に翻訳するのではなく、英語に訳して検討してみるというのは有用であるように感じられます（とくにドイツ語は顕著ではないかと）。
先行研究との関係をつかむ
たとえば、２－２．で例に挙げた資料は、リージング（Liesching）らの論文です。しかし、ある程度リサーチを重ねていれば、著者がリージングの文献でこのような内容が書かれているという時点で、「今読んでいる箇所は 先行研究の批判的検討なのではないか」と疑うことが可能だったのではないかと感じます。というのも、リージングがどのような研究者なのかと言えば、オーバーブロッキングは発生していないとするNetzDGの政府報告書を批判的に検討している研究者と位置づけられるからです。リージングの論文自体を隅々まで読んでいなくても、フェイクニュース法規制・NetzDGに関する研究をレビューした記事（論文に限りません！）を参照することでも把握できるでしょう[9]。
このように、特にその研究領域においてメジャーな論文などであれば、当該研究の位置づけを周辺情報からメタ的に把握することでも、ディストーションの危険を減らすことができると思います。
４－２．集団レベルでの取り組み
エビデンスチェック
英語ディベートでは、事後的に「第○試合で使った資料を提出してください～」とランダムに指定され、全チーム提出を求められるような制度があると聞きます（JDA-MLでもたまにお知らせが流れてきますね）。日本語訳して引用した資料に限ってこのような運用をやる可能性は検討できるかもしれません。ただし、誰がどんなふうに審査するのか、リソースはどうするのかなど、考えなければいけないことは多そうです（自分がJDA理事としての務めをちゃんと果たせてないので……自分の仕事をちゃんとやったうえで、大会局のほうでこのような対応を検討することがあればお力添えさせてください）。
証拠資料の日本語への限定
個人的には採りたくない方法です。たとえば死刑論題をやる際に、死刑に関しての研究が世界的に蓄積されているアメリカの研究に触れずに議論するのは、なんだか空洞を感じるようです。しかし、誤った議論が展開されるよりはマシなのではないかという意見もよくわかりますし、選択肢の一つには入ってくるのではないでしょうか。
制裁の強化
現在でも規程上は敗戦や失格になりうる旨が明記されていますが、適用例はほとんどないと認識しています。
[1] Anjan Pal (School of Communication and Information Nanyang Technological University Singapore) & Alton Y. K. (Chua School of Communication and Information Nanyang Technological University Singapore) . (2019).“Propagation Pattern as a Telltale Sign of Fake News on Social Media”. The 5th International Conference on Information Management. https://ieeexplore.ieee.org/abstract/document/8714679
[2] To explore propagation pattern, the data had to be further sampled and spaced in time. This periodicity or sampling frequency was, therefore, a consequential parameter that would impact the trends that could be extracted during subsequent analyses. To set a suitable periodicity, the literature was reviewed. In particular, postulated that 53% of shares on social media platforms occur within the first hour but by the first 24 hours, the shares are lowered to almost negligible.
[3] Second, as the time passes on, the growing volume of tweets for fake news indicated its sustainable propagation to achieve a wider reach. This could be due to the coordinated efforts of social media users to prolong the propagation of fake news [16], [33]. Therefore, fake news may have a longer life existence, and their buzz can be revived easily any time in future. Third, results indicated that the tweet volume of real news dropped drastically after the first day. However, this was not true for fake news. While real news seems to lose its value after a day, fake news sustains its popularity. This finding extends previous works [31], which suggested that an analysis of message propagation pattern on social media needs to take into account the first 24 hours. In fact, according to the present study, propagation pattern seems particularly insightful beyond the first 24 hours when it comes to separating fake news from real news.
This study has the following contributions. On the theoretical front, it fills the gap in current literature relating to the study of fake news by distinguishing them from real news in terms of online propagation pattern. Therefore, this study extends the literature of fake news by examining its propagation pattern on social media. On the practical front, the unique propagation patterns can be tapped to detect fake news. It is imperative to acknowledge several limitations of this study. First, although the investigation could offer valuable insights into the propagation pattern of fake news and real news in Twitter, it was challenging to generalize the distinction due the small sample size, taken from a specific backdrop (the 2016 US presidential election), within a specific time frame. This study involved 20 fake news and 20 real news, which hardly covered a wide range of news topics. Future research could expand the focus further by considering a wide range of topics, which would help to increase the volume of the dataset to achieve a greater generalizability. Second, while this study solely focused on the propagation pattern of fake and real news, future research could focus on linguistic properties as well. Third, this study was exploratory in nature. Interested scholars should consider a similar investigation with big data, on which sophisticated computational algorithms and statistical procedures could be applied.
[4] M. Lieshing, et al. (2021). Das NetzDG in der praktischen Anwendung: Eine Teilevaluation des Netzwerkdurchsetzungsgesetzes. Schriftenreihe Medienrecht & Medientheorie, 3. Carl Grossmann.
[5] Vielmehr könnte auch angenommen werden, dass es sich bei den meisten der beschwerdegegenständlichen Inhalte um Fälle einer „offensichtlichen“ Rechtswidrigkeit i.S.d. § 3 Abs. 2 Nr. 2 handelt, die gerade innerhalb der kurzen Frist von 24 Stunden problemlos gelöscht werden können. Vereinzelt wird in der Rechtsliteratur eine Vielzahl von Entfernungen innerhalb von 24 Stunden explizit damit begründet, dass die schnell gesperrten bzw. gelöschten Inhalte „auf Grund ihrer Evidenz keiner vertieften Prüfung“ bedurft hätten.
[6] Dies basiert freilich schon auf der Fehlannahme, dass die Löschungen innerhalb von 24 Stunden tatsächlich wegen (offensichtlichen) Verstößen gerade gegen die in § 1 Abs. 3 NetzDG genannten Straftatbestände erfolge; richtigerweise werden die meisten Löschungen in Tagesfrist nach den vor rangig geprüften Community-Richtlinien vorgenommen58 und können schon deshalb nicht als Beleg für eine Evidenz von Verstößen gegen StGB/NetzDG dienen. （S. 108）
[7] Dessen ungeachtet bewertet auch die Bundesregierung die „schnelle“ Prüfung sogar als „Indiz für die Praktikabilität der Fristvorgaben des NetzDG“. 59 Zu einer gegenteiligen Einschätzung kommen die im Rahmen der qualitativen Studie befragten Sozialen Netzwerke selbst, insbesondere Twitter und YouTube. Der Anbieter Twitter gibt in Übereinstimmung mit Schwartmann60 an, dass es „nicht viele“ 61 offensichtliche Fälle gebe, sondern überwiegend solche, bei denen eine Offensichtlichkeit einer (Straf‐)Rechtsverletzung gerade nicht vorliege. Auch YouTube gelangt zu der Einschätzung, dass die engen Fristen starke Anreize dafür setzten, Inhalte auf bloßen Zuruf im Zweifel und damit in fast allen Fällen zu sperren, da die Feststellung der Rechtswidrigkeit der meisten Straftatbestände nicht ohne Zweifel möglich sei.62 Ebenso stellt das Bundesamt für Justiz bei den dort anhängig werdenden Prüfungen zur Rechtswidrigkeit von Inhalten nach dem NetzDG fest, dass es sich bei der „weit überwiegenden Anzahl“ der Meldungen nicht um offensichtliche, sondern vielmehr um „Zweifelsfälle“ handele.63 Für die Bearbeitung wird dort indes auch ein aufwändiges mehrstufiges Prüfverfahren als erforderlich angesehen, das in 24 Stunden eher nicht umgesetzt werden kann.
[8] Der dargelegten These könnte entgegengehalten werden, dass ein hoher Anteil von innerhalb von 24 Stunden erfolgten Entfernungen nicht zwingend für eine zu schnelle Zweifelsfall-Löschung in rechtlich nicht eindeutigen Fällen sprechen muss.
[9] たとえば、これらの記事。
BR24（Bayerischer Rundfunk, バイエルン放送） 2021年3月26日 "Overblocking: Wird seit dem NetzDG mehr gelöscht als nötig?"
https://www.br.de/nachrichten/netzwelt/overblocking-wird-seit-dem-netzdg-mehr-geloescht-als-noetig,SSge2C3
heise online 2021年3月24日 "Studie: Netzwerk-Durchsetzungsgesetz bringt wenig und führt zu Overblocking"