Transformer-based Named Entity Recognition in Construction Supply Chain Risk Management in Australia

あなたは、指紋を探す代わりに、何百万もの新聞記事の中に隠された特定の単語を追いかける探偵だと想像してください。これが、自然言語処理（NLP）の世界です。これは、コンピュータに人間の言語を読み、理解し、意味を理解させるように教えるコンピュータサイエンスの一分野です。NLPを、単に言語間で言葉を入れ替えるだけでなく、その背後にある「意味」をも把握する、超強力な翻訳機だと考えてください。この探偵の道具箱の中で最も有用なツールの一つが、命名エンティティ認識（NER）と呼ばれるものです。もし文章をバラバラになったレゴブロックの山だと想像するなら、NERはそれらを即座に「人」「場所」「組織」「日付」といった整然とした山へと仕分けするロボットアームです。

なぜ、ロボットに言葉を分類させることを学ぶ必要があるのでしょうか？ それは、世界が情報に溺れているからです。毎日、株式市場から建設現場に至るまで、あらゆる事柄について数千のニュース記事が書かれています。人間にとって、これらすべてを読んで、例えば鋼材の不足や政治的紛争といった特定の「リスク」を見つけ出すことは、目隠しをした状態で干し草の山の中から一本の針を探すようなものです。ここで、トランスフォーマー（Transformers）が登場します。トランスフォーマーをロボットとしてではなく、本を一目見ただけで一冊丸ごと読み、たとえどれほど離れていても、すべての単語が他のすべての単語とどのように結びついているかを瞬時に理解できる、非常に注意深い学生だと考えてください。この論文は、これらの非常に注意深い学生を使って、オーストラリアの建設業界が安全を保ち、災難を回避するのをどのように支援できるかについて掘り下げています。

---

論文の使命：ロボットに建設ニュースを読ませる方法

オーストラリアの建設業界は、巨大で複雑なパズルのようなものです。そこには何百ものサプライヤー、厳格な規則、そして世界中からやってくる資材が関わっています。時には、パズルのピースが紛失したり壊れたりすることがあり、それが「サプライチェーンのリスク」につながります。つまり、建築プロジェクトを遅延させたり、コストを大幅に増大させたりする要因です。通常、専門家はこれらのリスクを特定するために、ニュース記事を読み込まなければなりません。しかし、膨大な量のニュースが入ってくる中で、これは時間がかかり、ミスも起こりやすい作業です。

この論文は、シンプルな問いを投げかけています。「コンピュータに、特にオーストラリアにおける建設リスクを見つけるために、人間よりも速く、より正確にこれらのニュース記事を読ませることはできるだろうか？」

これに答えるため、研究者たちは『The Australian』、『Sky News』、『Bloomberg』などの情報源から約2,000の記事を集めました。そして、コンピュータに司書のように振る舞うよう教え、テキスト内の重要な単語すべてにラベルを付けさせました。彼らは「BIO」タギングと呼ばれるシステムを使用しました。これは、言葉に付箋を貼るようなものです。

• B-（Beginning：開始）および I-（Inside：内部）：名前の始まりと中間（例：「B-Company」や「I-Name」）。
• O（Outside：外部）：重要ではない言葉。

彼らは、6つの特定の種類の「付箋」（エンティティ）に焦点を当てました。

1. 人物 (PER)
2. リスク事象 (RRE) – ストライキや遅延など。
3. 政治・国家グループ (PNR)
4. 組織・サプライヤー (OSC)
5. 地政学的単位 (GPU) – 国や州など。
6. 建設資材 (CMS) – コンクリートや鋼鉄など。

これら39,500のエンティティにラベルを付けた後、彼らはデータを7つの異なる「トランスフォーマー」モデル（上記の注意深い学生たち）に投入しました。これには、BERT、RoBERTa、DistilBERT、ALBERT、ELECTRA、T5、GPT-3といった有名なモデルが含まれます。

結果：読解コンテストの勝者は誰か？

研究者たちは、どのモデルがリスクを正しく特定できるかをテストするために、これらのモデルを試しました。彼らは、適合率（Precision：特定されたリスクのうち、実際に正しかったものの割合）、再現率（Recall：実際の全リスクのうち、モデルが見つけ出したものの割合）、そしてF1スコア（F1-score：両者のバランス）という3つのスコアを用いて成功を測定しました。

結果は以下の通りです。

• チャンピオン： RoBERTaがトップの成績を収めました。平均F1スコアは0.8580に達し、ミスを最小限に抑えつつ、すべてのリスクを見つけ出すというバランスにおいて最も優れていました。僅差で2位だったのは、スコア0.8356を記録したBERTでした。
• 「慎重すぎる」モデル： T5は興味深い結果を示しました。適合率（0.9924）は最も高く、リスクを見つけたと言うときは、そのほとんどが正解でした。しかし、実際の多くのリスクを見逃してしまいました（再現率は0.3645と低い）。これは、簡単な事件だけを解決して残りの事件を無視してしまう探偵のようなものです。
• 生成モデル： 物語を書くことで有名なGPT-3は、この特定の「特定」タスクにおいてはあまり振る舞いが良くありませんでした。そのF1スコアは0.7518でした。論文では、これはGPT-3がテキストを「生成」することに特化しており、テキストの特定のパーツに「ラベルを付ける」ためのものではないためであり、例えるなら「ネジを回すのにハンマーを使う」ようなものだ（使うことはできるが、最適な道具ではない）と示唆されています。
• 軽量なヒーロー： DistilBERTとALBERTは、RoBERTaよりは精度がわずかに劣りましたが、はるかに高速で、より少ないコンピュータパワーで動作しました。これらは、スーパーコンピュータを持っていない場合でも優れた選択肢となります。

秘訣：つまみを調整する

研究者たちは、単にモデルを選んで期待するだけではありませんでした。彼らは、ラジオのつまみを調整して最もクリアな信号を得るように、モデルの「ファインチューニング（微調整）」に時間を費やしました。彼らは以下の設定についてテストを行いました。

• 学習率（Learning Rate）： モデルが学習する速さ。
• バッチサイズ（Batch Size）： 一度に読み込むニュース記事の数。
• オプティマイザ（Optimizers）： モデルを改善するための数学的ツール（具体的には Adam と AdamW）。

彼らは、低い学習率（ゆっくりと慎重に学習すること）が一般的に、より良い結果をもたらすことを発見しました。また、AdamWオプティマイザを使用すると、特にBERTやALBERTのようなモデルにおいて、標準的なAdamよりも高いパフォーマンスを発揮することを発見しました。興味深いことに、大量の塊を一度に読むよりも、小さなバッチサイズ（一度に読む記事を少なくする）の方がうまく機能するということも判明しました。これは少し意外な発見でした。

これが将来に意味すること

この論文は、これらのAIツールを使用することが、建設リスク管理におけるゲームチェンジャーになると結論付けています。人間が何時間もニュースを読み続ける代わりに、RoBERTaのようなモデルは、数千の記事を数秒でスキャンし、「ビクトリア州での鋼鉄不足」や「中国のサプライヤーに影響を与える政治的不安」といったリスクをフラグ立てすることができます。

著者らは、将来的にはこの技術がプロジェクト管理ソフトウェアに直接組み込まれる可能性があると示唆しています。プロジェクトマネージャーが、自分のプロジェクトに特有のリスクに言及するニュースが出た際に、「リアルタイムのアラート」を受け取るダッシュボードを想像してみてください。これにより、彼らは問題が遅延やコスト超過を引き起こす前に、対策を講じることができるようになります。

しかし、論文はこれもまた始まりに過ぎないことも指摘しています。彼らはあらゆる可能性のあるモデル（XLNetやDeBERTaなど）をテストしたわけではなく、システムをよりスマートにするためにはさらなる研究が必要であることも認めています。しかし、核心となるメッセージは明確です。コンピュータにニュースを読ませる方法を教えることで、私たちはより安全で、より回復力のあるオーストラリアの建設プロジェクトを構築できるのです。