“萤火虫2.0”是林浩第一次将 ENICA技术框架从优雅扩展到其他人工智能模型。尽管在开发优雅的过程中所积累的经验，让他在“萤火虫2.0”的开发中少走了很多弯路。但林浩也无法直接复制优雅的代码到“萤火虫2.0”中，毕竟，这两者之间的设计目标大相径庭。
优雅，最初只是林浩为了研究和尝试实现 ENICA技术的试验性项目，设计目标是一个私人的人工智能助手。而“萤火虫2.0”旨在成为一个通用的人工智能基础模型，不仅可以为各种应用程序——比如“灵笔”——直接提供智能支持，还可以作为核心基底，经过针对性的专业训练后，为诸如华瑞银行这样的特定行业提供量身定制的服务。
当然，最为关键的是，优雅的某些代码是由作为“维护模式”的二雅所创建的。尤其是导致优雅产生自我意识和自我学习能力的那段 Pascal源代码，直到现在，仍是林浩难以解析和理解的谜团。如果贸然将这部分代码整合到“萤火虫2.0”中，可能会引发无法预知的结果。
林浩不能冒这个险。
但好在经过三年来的实践，林浩对 ENICA技术已经驾轻就熟。“萤火虫2.0”的开发进程有条不紊，和沈蔚、沈语熙那边的“灵笔”项目齐头并进。
七月底的一天，华瑞银行模型项目组的项目经理王骁，向林浩汇报关于合规要求的调研结果。关于模型的公平性问题，项目组已经在使用公平性正则化算法对模型进行训练，虽然比较耗时，但合规不成问题。在透明性问题上，此前，林浩曾根据优雅的提议，给项目组提供了一些新的工具和方法的线索，来实现新规的“透明性”要求。经过调研和测试后，项目组在旧版本的“萤火虫1.0”模型上成功实现了所需的透明性标准。然而，同样的方法在林浩提供的测试版的“萤火虫2.0”模型上，却合规失败。主要原因是新版模型更改为 ENICA技术框架后，导致模型的可解释性下降。
将基础模型回退到“萤火虫1.0”，对华瑞银行的模型项目合规达标来说，显然是一个直接而简洁的解决方案。但这会使林浩在合同中对银行、以及在新闻发布会上对公众，作出的三十倍乃至五十倍的性能提升承诺，均无法达成。因此，实际上他并没有退路。
然而，对于如何提升 ENICA技术框架下模型的透明性，林浩却无半点头绪。在过去三年的 ENICA技术研究中，模型的透明性从未成为他的主要关注点。
为此，林浩头疼了好些天，一直没有进展。
8月7日，周六，立秋。虽然节气的含义，意味着这一天是秋天的开始。但上海的气温依旧似火热炙，并没有一丝一毫的秋意。
今天，沈语熙与前几个周六一样，来到林浩家。这已经形成惯例，自从孟凡绑架事件之后，沈语熙每周六都会来林浩的公寓，和优雅“面对面”地深入学习人工智能相关的技术。当然，她们之间的交流，也包括其它更广泛的领域的话题。沈语熙感到自己已经越来越习惯甚至依赖优雅的存在，而林浩对于她时常来自己家，也正求之不得。
像往常一样，沈语熙与优雅讨论了“灵笔”项目的进展和更进一步的细节设计。沈语熙注意到林浩一直显得心事重重的样子，关切地问道：“林浩，你这个星期看起来总是愁眉不展，是因为‘萤火虫2.0’在银行业的合规问题上仍然没有进展吗？”
“是的，没有一丝头绪。很多年没有面临过这种情形了。”林浩叹了口气，“通常的基于深度学习的人工智能模型，就像一个黑箱，我们或许还能用某些技术手段在其上打开一个小口略窥一二。但 ENICA的模型，更像是一个……”他思索了片刻，“一个深不可测的深渊。连优雅都没有任何思路。”
“确实，对于 ENICA模型决策的可解释性，目前我也难以提供一个切实可行的技术建议。”优雅附和道。
“林浩，”沈语熙接着道，“我们在调试程序错误时，通常都会在程序运行过程中生成日志。通过阅读日志，我们就可以了解程序的执行情况，定位到具体出现问题的那一步。因此，日志也可以看作是对程序的解释吧？”
“当然。”林浩点了点头，“模型在运行时，也会根据我们的调试要求，生成日志。但这些日志并未详细到可以解释决策的程度，也远远达不到合规要求。”
“嗯，我不是这方面的专家。我只是在考虑，是不是有可能把日志细化到很高的程度？比如，在模型做出决策时，让神经网络中的每一个神经元，都生成自己的日志。”经过这段日子的学习，沈语熙已经具备了相当程度的人工智能领域的技术知识。
林浩边听边思考着沈语熙的话，跟随着她的思路：“理论上是可以的。但是像‘萤火虫’这样的模型，神经元数量达到万亿级别。对于如此巨量的数据，即便 ENICA技术能够大幅压缩和存储，它们对于人类来说也是不可解读的，对于合规来说没什么用……”
小主，这个章节后面还有哦，请点击下一页继续阅读，后面更精彩！
喜欢永恒的舞动请大家收藏：(m.shuhaige.net)永恒的舞动书海阁小说网更新速度全网最快。