多くのリーガルAIはチャット画面と免責事項を渡すだけ。Hanko AIが渡すのはパイプラインです。11の専門エージェント、法令コーパス、決定論的スコアリング、そして最後に暗号署名のスタンプ。アップロード後の60秒で起きることを、正確にお見せします。
日本語でも英語でも、PDF・DOCX・テキストをドロップするだけ。文書は到着した瞬間に暗号化されます。条項の区切り、定義語、構造が数秒で抽出されます。
各エージェントは日本法の一領域を専門とし、厳選された法令・条約・ガイダンスのコーパスから検索します。実在する条文を示せない主張は、あなたの目に触れる前に破棄されます。推測で答えるチャットボットの対極です。
専門家が文書をレビューする間、エンジンはあなたの状況を日本の法体系全体と照合し、税務上の選択からストラクチャーの選択まで、主張できる合法的な優位性をすべてフラグします。
リスクスコアは固定の重大度計算式で算出されます。モデルが数字を作ることはありません。同じ契約書は常に同じスコアになる。だから監査でき、追跡でき、説明できます。
レビューを通過した文書には、AWS KMSで管理されるECDSA鍵による署名とQRコードが埋め込まれます。世界中のどの相手方も数秒で検証でき、改ざんは即座に署名を破壊します。
指摘は施行日付きの具体的な条文を参照します。記憶からの断言は一切ありません。
AIが判断すべきでない案件では、システムがそう明言し、有資格の専門家を案内します。
すべてのレビューでプロンプトのバージョン、モデル、検索された法令、コストが記録されます。ブラックボックスはありません。
多くのリーガルAIはスコアを信じることを求めます。当社は、何をどう測ったか、そしてすべてのレビューで成立する保証を公開します。いずれも、条項を一つ読む時間で日本法と突き合わせて確認できます。
総合精度(実測)
77%
実際の契約書を最初から最後まで
実際の契約書を実際のシステムに通した通しの結果です。3回レビューし、結果の一致を確認しています。より易しい試験でより高い数値をお見せすることもできますが、再現できる数値のほうが価値があります。
本当に見るべきは、あるモデル単体の点数ではなく、その内側のモデルにHankoの仕組みが何を上乗せするかです。同じ契約書を2通りで検証しました。完全なHankoのシステムと、契約書と同じレビュー基準だけを渡したClaude(Hankoの法令照合や安全確認は一切なし)。弁護士が確認した正解も、採点方法も同一です。
| 測定項目 | Hanko | Claude | 平易な説明 |
|---|---|---|---|
| 実際の契約での実行(中核セット) | |||
| 総合精度 | 77% | 62% | 実際の契約書を、お客様と同じ手順で最後までレビューしたものです。1件につき3回レビューし、結果が一致するかを相互に照合しています。下の2つの数値は、この結果を「指摘が正しい割合(適合率)」と「重要な点をどれだけ捉えたか(再現率)」に分解したものです。 |
| 正しく指摘(精度) | 92% | 77% | 指摘した問題は実在するものでした。ライブ実行、共通の契約セットでの測定です。 |
| 見落としなく検出(再現率) | 66% | 53% | レビュー担当者が必須とした問題のうち、実際に検出できた割合です。ライブ実行、同じ契約セット。 |
| その他の測定 | |||
| 難解・敵対的な契約書 | 91% | 55% | システムを破ることを目的に作成した契約書。本文中に指示を隠して誤作動させようとするものを含みます。 |
| 指摘の正しさ(内部リプレイ) | 100% | – | 指摘した問題は実在するものでした。この数値は直近の内部検査のリプレイ(システムが記録した実際のレビューを、ライブ実行ではなくオフラインで採点し直したもの)であり、ライブの精度スコアではなく、次回のライブ実行に対する下限値としてお読みください。過剰な指摘が平均値の陰に隠れないよう、独立して追跡しています。 |
| 問題の検出(内部リプレイ) | 100% | – | 同じ内部リプレイにおいて、レビュー担当者が想定した問題をすべて検出しました。隣の適合率と同様、これはライブスコアではなく採点し直した下限値であり、同じ理由から独立して追跡しています。 |
検証方法:実契約を、完全なHankoのシステムと、Hankoが内部で用いるのと同種のモデルであるClaude単体の双方でレビュー。Claudeには契約書とレビュー基準のみを渡し、Hankoの法令照合や安全確認は一切なしで実施しました。両者を同一プログラムで、弁護士が確認した正解に対して採点しています。これは中核となる契約セットの結果です。契約書に仕掛けられた罠に対する比較や他社モデル(GPT、Gemini)は現在検証中のため、ここには掲載していません。
本検証では、裁判所が実際に無効と判断し得る条項の約3分の1(21件中7件)を、素のモデルは過小評価し、違法な条項を単に『不利』と分類しました。条項は見えていても、重大さを読み違えます。Hankoの深刻度キャリブレーションは、この一線を守るために設計されています。
単体では、モデルの手元に条文がありません。そのため引用を省くか、記憶から条文を作り出します。Hankoは違法・欠落の指摘ごとに実際の条文を引用するので、法律に照らして確認できます。
素のモデルは紙面にある文言をレビューします。まるごと欠落している必須条項を指摘することはほとんどありません。Hankoは契約類型ごとに定型の必須条項チェックリストを実行し、飛ばせない仕組みにしています。
素のモデルは二度尋ねれば二通りのレビューを返すことがあり、契約書自身に指示を潜ませれば誘導され得ます。Hankoは常に同じ判断を返すよう動作し、3回の実行が一致することを確認し、契約書はあくまでレビュー対象として扱い、従うべき指示とはしません。
上記のうち2項目は、直近の内部リプレイ(記録済みのレビューをオフラインで採点し直したもので、ライブスコアではなく次回のライブ実行に対する下限値)における個別機能の測定値です。77%はシステム全体を実際の契約書で通した結果であり、低いほうの、そしてより意味のある数値であるため、こちらを前面に出しています。
本システムは常に同じ判断を返すよう設計されており、同じ契約書には同じレビューを返します。すべての指摘はモデルの印象ではなく、実際に引用した条文に基づきます。各レビューを3回実行して一致を確認し、中央の結果を報告します。
何でも指摘するシステムと何も指摘しないシステムは、同じ総合点になりえます。当社はこの2種類の失敗を分けて追跡し、どちらも平均値の中に隠れないようにしています。
契約書を一切読まず、最も多い答えを機械的に返すだけのシステムの得点を算出します。それが当社の得点に近ければ、試験は製品ではなく試験自体を測っていることになります。この検査により、当社自身の弱点を発見し是正しました。
精度の数値は契約書の標本を説明するものです。以下はシステムそのものの性質であり、お客様の契約書でも成立します。
取得した原典に存在しない法令引用は、お客様に届く前に削除されます。存在しない条文はそもそも原典から取得されないため、システムが条番号を捏造することはできません。
条文を逐語で引用し、どの版を引用しているかを明示します。政府のデータベースと数秒で照合できます。
個別の規定が適用される場面では、その規定を引用します。一般原則への漠然とした言及は回答として通しません。
同じ条項でも、消費者契約・労働契約・交渉済みの事業間取引では意味が異なります。当社は文書自身の記載を読み取り、推測しません。
M&A、株式譲渡、フランチャイズ契約がソフトウェアのみで認証されることはありません。それを変えるスコアは存在しません。
検出した問題の件数に重みを乗じて合計するだけです。その式はすべてのレポートに印字されます。数値を決める隠れたモデルはありません。
以下は通常であれば脚注に置かれる内容です。お客様が必ず疑問に思われる点であり、かつ答えに自信があるため、ここに掲載しています。
上記の数値は、当社が土台とするのと同種のモデルに対して実施した中核契約セットの結果です。契約書に仕掛けられた罠に対する比較や他社モデル(GPT、Gemini)は現在検証中で、完了してから追加します。先出しはしません。他社のランキングにHankoが載っていても、それは当社が載せたものではありません。
弁護士が検討した契約書は、不具合の再発を防ぐための試験対象に追加されます。本ページの数値もそれに伴って動き、変化した際には更新します。
弁護士が承認した判断11件のうち9件については、システムが逸脱しても現在の試験では検出できません。それが分かるのは、当社が測定しているからです。多くのベンチマークは検出できる範囲のみを報告しており、それは自らの死角を測っているにすぎません。
公表されたいかなる数値も、お客様の文書・基準・リスクにどう対応するかは示せません。当社を含め、誰かを信じる前にご自身の契約書でお試しください。