どんな企業でもITを導入すると、ある程度のブラックボックス化は避けられない。業務の一部を機械に置き換えるわけだから当然だ。だから一般には、ブラックボックス化のリスクをきちんと把握し、システム障害などいざという時の対策を準備しておく。ところが、そんな配慮を一切せず、ITによる業務のブラックボックス化に猛進している愚かな企業の一群がある。言うまでもなく日本の大企業である。

　日本企業における最も旬なブラックボックス化の試みは、RPA（ロボティック・プロセス・オートメーション）の導入だ。このRPAブームは随分息が長い。IT系雑誌でRPAを特集すると多くの読者に読まれ、セミナーを開けばどこも大入り満員――。そんな状況が2年近く続いている。人手不足の深刻化もあり、特に大企業は人手による事務作業を機械に置き換えたいようで、せっせとRPAによる事務作業のブラックボックス化にいそしんでいる。

　RAPによるブラックボックス化が今の話なら、基幹系システムによるブラックボックス化は過去から積み上げられてきた負債であり、これから先に必ず起こるブラックボックス化は人工知能（AI）が引き起こす。以前、この「極言暴論」でRPAとAIによるブラックボックス化の問題をおどろおどろしく書いたが、今思えば事態はもっと深刻かもしれない。基幹系システム、RPA、AIによる「ブラックボックスの三段重ね」が恐ろしい結果を招きそうだからである。

順を追って説明する。まず基幹系システムによるブラックボックス化だが、実は少々ややこしい。基幹系システムだけでも三重のブラックボックスになっているからだ。まず分かりやすいのが、基幹系システムに取り込んで機械化された業務プロセスのブラックボックス化だ。昔なら、どんな企業にも「業務の生き字引」のような社員が必ずいたが、システム導入後は彼らの知見は無用となり、定年退職やリストラを機にそうした知見は完全に失われた。

　ただし、システムに実装された業務プロセス全てがブラックボックス化されたわけではない。日本企業では部署ごとに最適化された業務、あるいは属人的な業務もシステムに取り込まれている。だから、少なくともそれぞれの部署で事務作業を担っている人の多くはなぜそのような業務処理なのかを理解している。お察しの通り、RPAがブラックボックス化するのはその部分。その話は基幹系システムが織りなす、残り2つのブラックボックス化を説明してから述べる。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00148/101100032/