Подтвердите e-mail

Для публикаций, комментариев, реакций и сообщений подтвердите адрес.

Профиль

星 暁雄 (Akio Hoshi)

Профиль Vively

Tech Journalist Interested in Tech and Human Rights

新情報: (論評は抜きに事実のみ記す) マンガワン事件の報告書に登場する担当編集者「G氏」が、X(旧Twitter)で「謝罪文」を公表した。報告書の内容を認め、さらに謝罪する内容となっている。 x.com/Narita_Manga...

061

ありがとうございます。 「レビューの負担が増えた」という調査結果も出ています。 急激な変化が現在進行形のため、議論の着地点を見つけることはなかなか難しそうです。

010

ありがとうございます。 たしかにAIの見おとし(コンテキスト欠如)による障害発生が増えているとの報告もあります。 AIの発展と普及が急激すぎて、「ソフトウェアのライフサイクル全体を見たとき、どういう使い方が最適なのか?」という問いが後回しになっているのかもしれませんね。

111

ありがとうございます。 「AIと人間の両方を含めた系全体での全体最適」という問題意識は重要だ、と改めて思いました。

000

追記: 「人間とAIのコストが逆転する懸念」と書いたのだけど、曖昧さが残る表現でした。 AIのコストが上がっているのはトークン消費量が増えているため。「ものすごい勢いでAIにコードを作らせすぎて、AI利用料金も高くなってきた」という話です。 人間の開発者と同等のペースでAIにコードを生成させたなら、AIが人間より高コスト、ということにはならないでしょう(おそらく)。

01710

雑感: AIコーディングの普及が急速に進んだことは事実。AI企業が提供するサービスの変化も急激である。 変化が急激すぎ、開発組織との乖離があるのではないか。コードを作りすぎてレビューが追いつかず、運用時に不具合を発生する可能性も高くなっている。 まあ、AIに楽観的な人は「その問題もいずれAIが解決するさ」と言うだろう。 一方、私なんかは「取りこぼし」、人間が面倒を見なければならない部分は常に残るのでは、という懸念を持つ。 AIは、ソフトウェア開発産業の構造を変える可能性が大きい。その着地点はまだよく見えない。

1169

上記の劣化の原因を、次のように分析する。 1番目はコンテキストの欠如。AIは与えられた仕様書や文法的に正しいコードを書くことは得意だが、システムが稼働した際の動的なコンテキストまでは考慮していない。「例えば、利用頻度の低いエッジケースや大量アクセス時の挙動、複数ユーザーからの並列アクセス時の振る舞いなどは、実際にシステムを動かしてみて初めて明らかになる」 2番目に人間によるレビューが形骸化。AIへの過信からレビューを省略して本番適用してしまうケースが発生。シニアエンジニアのレビュー負担が従来の4倍以上に膨れ上がって「手に負えない状況に陥っている」

2179

コード修正作業が増加したと回答した割合は86%。シニアエンジニアによるレビューや不具合修正の負荷が高まっている。 エンジニアの全業務時間のうち突発的な障害対応に費やされる割合は33%。 ガートナーは、トークン消費量の急増に伴い、2028年までにAIコーディングツールのコストが平均的な開発者の年収を上回ると予測 雑感:最後の人間とAIのコストが逆転する懸念は興味深い。AI企業は課金でマネタイズしたいのだが、本気でマネタイズすると人間の方が安くなってしまう可能性がある。

11610

さらに続き: 「ビジネスと人権」の狙いは、企業とそのサプライチェーンが人権を侵害しないようにする仕組み作り。 本件については、「会社と編集者と加害者(漫画家)」から成るサプライチェーンが、弱い立場の被害者を邪魔な存在として扱い、人として見ていなかった。そのことが被害者の救済を妨げた。 なので、報告書の結びは、すべての人を人として扱う組織に、「人権を思い考え行動する組織に作り替えてください」という提言になっている訳です。

1204

追記の続き: 本件のような事案の話を読んで、「あの個人を罰したい!」という感情を持つ人も多いと思います。ただし、(ここは間違えやすいところですが)人権はほんらい国への命令であり、個人を罰するための概念ではありません。 ビジネスと人権は、人権の範囲を国から企業に広げ、「企業が人権侵害を未然に防ぐ仕組みを作りましょう」という考え方です。 個人の処罰は、(人権とは別の)法や社内規則の領分です。この報告書に掲載されている関係者に社内処分が下るかもしれませんが、それは「ビジネスと人権」が求めるものではなく、会社が自主的に行うもの、と考えることが妥当だと思います。

1244

追記: スレッドで「ベターな解はどこにあるだろう?」と書いたのですが、ここをを少し補足。 本件を「個人」の話とみるか、「会社組織」の話とみるかで、印象がずいぶん変わると思います。 私の感想は、「個人として、自分が同じ立場だったらどうするか?」という話を書いています。 一方、報告書は「会社組織」の立場です。「個人がおかしな事をしても、組織として是正できるようにしなさい」「弱い立場の個人の訴えをちゃんと取り上げる仕組みを作りなさい」という内容です。これが「ビジネスと人権」の考え方。 組織としての「ベターな解」のガイドラインが「ビジネスと人権に関する指導原則」という国際文書です。

1195

報告書の結語より: 「当委員会としては、小学館が本調査の結果及び提言を真摯に受け止め、本事案を一過性の問題としてではなく、自らの組織及び事業活動の在り方を見直す契機として活用することを期待する」 雑感: フジテレビ事件の調査報告書と同様に、「ビジネスと人権に関する指導原則」を踏まえた現代的な調査報告書である。この報告書は、同業他社にとっても人権状況改善のための資料として参照できると思われる。 今後、小学館は報告書が指摘する人権デュー・デリジェンスの実施や組織のアップデートを行うだろうし、そうあるべきである。

14115

報告書より:続き 「具体的には、人権侵害を受けた被害者の保護や救済、人権侵害への助長又は加担の防止及び優越的地位を利用した性的加害の防止といった観点について、意識及び感度が組織全体に十分に浸透していたとは認め難い」 「課題を改善するためには、個別事案が発生する都度対応するにとどまらず、出版活動を含む企業活動全体を通じてどのような人権リスクが存在するのかを把握し、これを継続的に特定・評価した上で、当該リスクの防止又は軽減を図る取組を行うこと、すなわち人権デュー・ディリジェンスを実施する必要がある」

13514

報告書より 「一方で、企業が尊重すべき「人権」とは、究極的には、全ての人が尊厳を持って扱われる権利そのものである。世界人権宣言や国際人権規約といった国際人権章典及び国際労働機関の中核的労働基準に関わる基本的自由・平等に関する権利等を含む非常に幅広いものであって、表現の自由に限られるものではない。しかしながら、小学館においては、これらの「人権」それ自体の重要性や自社・グループ会社及びサプライチェーンを対象とする人権尊重の必要性につき、コミック局やポスト・セブン局等において確認されたように、必ずしも組織全体で十分に認識されていなかった」

13513

「難しい問いだ」と書いちゃったが、答はもちろん「収入よりも人権」である。人権侵害が公になれば一時的な収入減では済まず、キャリアに影響が出るだろう。利害得失という観点だけで思考したとしても、人権侵害に加担することはリスクが大きすぎる—— 冷静に合理的に考えるとこういう結論になるのだが、自分の収入が関わると冷静で合理的な思考ができなくなるのが人間というものだ(いわんや非正規雇用においてや)。 加えて、有名出版社の商業出版マンガの現場は競争環境が激しいことが想像され、このような冷静な思考ができなくなっている可能性もあるだろう。 だからといって擁護はできない。ベターな解はどこにあるだろう?

15617

今回の報告書では、「セクシー田中さん」事件、「アクタージュ」原作者の事件も参照されており、まとめて論じられております。

171

経緯を見ると、1人の編集者が加害者による連載継続や原作者としての再起用にこだわった。LINEグループで被害者女性にいろいろ言ったのも同じ編集者。編集者は事態が進行している最中はフリーランスだった(のち社員に採用)。 編集者にとって、自分が抱える連載や作家が切られることは大きな損失に感じられるだろう。加えて、フリーランス編集者の場合は自らの収入も断たれてしまう。「そうはさせまい」と動いて傷を大きくした。「漫画家の収入源を断たないよう」という配慮もあった。そして被害者への配慮は欠けていた。 もし私が同じ立場だったとして、自分の収入源を断ってまで人権を最優先にできたか。なかなか難しい問いだ。

25321

ありがとうございます。 たしかに工程の一部を高速化することと、工程全体の改善は別の話です(ちょっと「アムダールの法則」を思い出しました)。 ここにも考える材料がありそうです。

130

ありがとうございます。設問の含意を読み取ると、そういう結論になるということですね。 この回答からも、様々な含意が読み取れそうです。考えてみます。

040
Показать ещё