万万没想到(清华出国女博士)清华女博士毕业照,90后清华博士为AI“杀毒”,砌起安全墙,

成立3年,融资4轮,数额共计数千万元,专研演算法攻守、个人隐私排序、深伪检验,为AI“防毒”。掌理着另一家估值数千万人民币AI初创企业的,是个典型理工科气质的90后北大AI教授。

90后成都人田天从小痴迷排序机系统,凭借着中学数学体育竞技全国银奖大三北大数学系,一路念到教授,2018年7月出了校门就加入浩浩荡荡的创业者大军,做“或者说的AI”。

他创立的北京Jaguaribe睿智科技有限子公司要做第二代人工睿智,为AI安全可靠产业发展保驾护航。Jaguaribe睿智是RealAI的音译,由北京大学人工睿智科学研究所官方发动成立,北京大学人工睿智科学研究所主任张钹工程院和北京大学人工睿智科学研究所基本原理科学研究中心秘书长朱迅共同担纲首席科学家。参与承担科技部、国务院法制办、公安部、发改委等发动的多个国家级重大项目建设任务。

田天说,AI归根到底还是几项有用的控制技术,但演算法、统计数据、应用领域微观的安全可靠受控难题有待突破,不能简单停留在功能微观的复制或修修补补。AI产业要或者说做到顶天立地,得先立地,也就是加强基础层应用领域领域的控制技术科学研究,这就好比打好地基,是整个产业产业发展的最坚实基础。

他擅长理性规划,制定目标和路径后逐步推进。但在创立另一家企业前,他并不知道自己究竟是否适合创业者。“但一旦已经开始做起来,许多难题就一定要去化解掉,包括子公司的战略制定、管理、产品研发、销售推进。”田天说,自己的创业者信心愈来愈足,对市场和第二代人工睿智的判断愈来愈清晰。

打开凤凰新闻,查看更多高清图片

人工睿智的困局

1991年,田天出生于成都两个教师家庭。上小学时碰触到排序机系统便萌生了浓厚兴趣,那时父母上课要用到电子课件,他真的有意思,也已经开始自修PPT。从头创建两个网站、制作两个flash动画,对他来说是十分有成就感的事,甚至把自修经验总结出来发表,获得500多元稿费。

对排序机系统的浓厚兴趣愈来愈浓厚,他已经开始学编程,不断跟进排序机系统科学知识。2009年,18岁的田天凭借着中学数学体育竞技全国银奖大三进入北京大学数学系,之后免试就读北京大学排序科学与控制技术专业,在这里,他完成了硕士和教授学业,主要科学研究路径是贝叶斯机器的理论、模型和应用领域应用领域领域。

田天说,自己或者说碰触到人工睿智是在大二,从入门到现在已经有12年时间。那时候的人工睿智还没有如此火热,直到2016年谷歌旗下中国围棋人工睿智流程AlphaGo的再次出现。

它曾在和其他中国围棋流程的对抗中获得99.8%的胜率,在几项体育竞技中以5:0战胜欧洲中国围棋冠军。2016年,AlphaGo约战中国围棋世界冠军韩国棋手李世石,以4:1的大比分取胜。

“整个行业获得了很大的促进,热度升温了许多。增添的直接变化就是更多的人进入到这个应用领域领域,许多人已经开始尝试它在不同路径的规模化。”广度学习在搜索控制技术、统计数据分析、用例、自然语言处理等应用领域领域取得成果,“最已经开始我们真的人工睿智能力十分强,能够化解许多难题。”

但从2018年已经开始,人们也发现了人工睿智还有很大困局,人工睿智底层理论难题逐渐获得关注。

“我们发现人工睿智到了两个规模化和应用领域的新阶段后,有一系列捷伊难题要去化解,主要是关于人工睿智的演算法、统计数据、应用领域等各方面十分棘手的难题,可以说是安全可靠或者可靠性的隐患。”

比如⼈脸解锁被破解、刷脸⽀付再次出现漏洞、⾃动驾驶汽⻋被⿊客操纵“欺骗”从而驶向其他路径,这些属于演算法微观的安全可靠漏洞。

“把AI用在游戏里,演算法手忙脚乱的影响也不会不光大,造成的经济损失是有限的。对话系统的智能问答手忙脚乱,我们也就是笑一笑,真的AI有点笨,也不会增添不光大的难题。”

但人工睿智在愈来愈多的关键应用领域领域破冰,不光是金融、能源、医疗等高价值应用领域领域的应用领域与财产安全可靠、人身安全可靠甚至社会安全可靠紧密相关,对人工睿智的安全可靠、可靠、受控要求愈来愈高,一旦再次出现不受控,增添的经济损失是巨大的。

而以广度学习为代表的第二代人工睿智本身具有黑盒性和不可如前所述,人们很难理解演算法最终决策的细节和逻辑,这就导致了开发者、使用者都不可预知的攻击或欺骗。

再者,“两个个人隐私保护,两个科学知识产权,用户的人脸统计数据凭什么给一家子公司用?”中国科学院工程院张钹曾说,怎么用也是两个难题,“统计数据都被子公司收走,是否会造成不公平竞争,这些都是需要思考和治理的。”

主动上门的需求

传统AI控制技术局限凸显,第二代人工睿智的经营理念再次出现了。早在2016年,张钹工程院就曾提出产业发展“第二代人工睿智”的经营理念,利用科学知识、统计数据、演算法和算力4个要素, 创建捷伊可解释和鲁棒的AI理论与方法,产业发展安全可靠、可信、可靠和可扩展的AI控制技术。

2018年,北京大学成立人工睿智科学研究所,张钹担任新科学研究所主任,聘请诺贝尔奖得主吴健雄工程院作为学术委员会秘书长。2019年,北京大学宣布成立人工睿智科学研究所基本原理科学研究中心,以期创建第二代人工睿智基本原理和方法体系,北京大学数学系长聘教授朱迅被聘为科学研究中心秘书长。

教授阶段,田天师从朱迅,他所从事的也是与第二代人工睿智相关的科学研究,包括机器学习演算法与众包科学知识的整合,提高AI在有噪声的统计数据和标注情况下的训练和预测表现。2018年拿到教授学位后,田天没有去互联网大厂,而是把出国深造期间一直想做的事做了:办一家子公司,把手里的控制技术破冰。

“做这件事的想法和决心在出国深造期间是一直都有的。”田天说,当年Jaguaribe睿智最初的创始项目组都是“北大同两个项目组的”,“我们在一起配合了很长时间,十分有默契。”创业者也是一拍即合,走出北大校门,寻找办公场地。子公司成立后,他白天忙于业务和管理,晚上钻研控制技术路线和产品路径。

“第二代人工睿智能够应用领域的应用领域领域十分广,所以对于我们来说,反倒要去筛选,到底哪一块更需要我们的能力和产品,哪一块能让我们在市场产生相应优势。”破冰场景的选择并非完全一帆风顺。

早期一些慕名而来的客户对田天项目组提出AI需求,项目组接到需求后研发再交付客户。但他们很快发现,这些主动上门的需求中,有时候客户搞不清楚现在AI到底能把难题化解到什么程度。有些需求听上去更像科幻,更多时候,客户所积累的统计数据并非是化解难题所需的统计数据,甚至没有统计数据。

最初,田天尝试过睿智旅游方案,通过AI为游客定制行程。这就要求人工睿智有可如前所述,睿智旅游不仅仅是给出两个旅游方案,更重要的是让客户信服,为什么是这个方案、它好在哪。

“当时期望高就高在我们想做出来的是两个或者说可靠、可解释的系统。”需求本身没有难题,但很快被现实打败。当或者说下手时发现,人工服务积累下来的旅游统计数据距离AI可用还有很大距离。从游客的角度,“他的需求到底在什么地方、他为什么提出这个需求等等,并没有获得很好的记录。”

在统计数据不足情况下,模型输出效果并不理想。要么继续积累更多统计数据,要么通过前期研发把演算法做到能实现睿智旅游的程度,但后者又需要高额投入,而客户的预期是用相对合理的成本实现能力强大的AI。经过一段时间尝试后,他们真的这样的项目现阶段并不合适子公司的控制技术路径。

为AI“防毒”

从科研走向创业者,这帮青年创业者者愈来愈关注控制技术如何变成当下市场需要的产品,再把产品卖出去。

他们泡在市场里,挖掘身边认识的所有人脉资源,与这些潜在客户的交流让他们摸索出一些高价值的场景,找到最适合现阶段破冰、快速产生应用领域价值的应用领域领域,这些场景的智能化升级能够获得合理的投入产出比。

在电网应用领域领域,AI图像识别系统可用于电网智能监控,判断高压线周围有无危险品。但如果为了恶意破坏基础设施,在危险品上加装花纹等特殊对抗样本,“AI图像识别演算法就没有办法认出危险品了,那就有可能导致危险品再次出现又无法检验到,甚至一些地方起火了也检验不到,图像识别演算法完全被消除。”

如果通过搭载的攻击演算法对系统进行模拟攻击,然后评估系统表现,综合给出安全可靠性评分,并指出安全可靠漏洞在哪,用户再通过搭载的防御方案就可以针对性地加固提升。田天说,这套人工睿智安全可靠平台类似于防毒软件,发现安全可靠隐患的同时进行安全可靠防御。

所有的AI都有相应输入,输入统计数据被黑客添加“对抗样本”,就会导致恶意攻击。“不光像针对人脸,有可能黑客会在人脸上加一些特定生成的干扰图案,就能欺骗后面的识别模型给手忙脚乱误输出。”

这时候如果在输入统计数据后、识别模块前,先检验输入的统计数据是否存在恶意攻击,“如果有攻击行为,就拒绝请求,没有攻击行为再进入识别环节。”Jaguaribe睿智因此开发了AI安全可靠防火墙。

田天说,这种AI防火墙和传统网络安全可靠防护墙类似,不同的是防护对象是演算法,它可以提供对抗样本攻击、广度伪造攻击等演算法攻击的检验,除了应用领域在人脸识别应用领域领域,对目标检验、图像分类、自动驾驶系统也能防御部署。

另外,在金融风控场景中,一般情况下信贷分析模型所需的统计数据涉及消费、支付、社交、通讯等,高度绑定用户个人隐私,一旦在整合和使用过程被窃取泄漏,将造成严重后果。

田天说,结合人工睿智、密码学、分布式系统等控制技术路线,Jaguaribe睿智正在搭建个人隐私保护排序平台,这一综合底层平台支持不同演算法和场景,支持多方联合建模和统计。

“在金融应用领域领域我们做建模、风控等,虽然做的是金融模型,但这个模型底层都是基于个人隐私排序平台来搭建的。”相比传统不考虑个人隐私的建模方式,基于个人隐私排序平台的金融模型可以确保所有明文统计数据在原始的存储方不出库,保证密文排序效果。

根据场景选择控制技术,在这个90后的带领下,Jaguaribe睿智在政务、⾦融、能源、制造、互联⽹等应用领域领域破冰,提供⼈脸识别系统安全可靠、自动驾驶系统安全可靠、广度合成和伪造检验、个人隐私保护排序、AI攻守靶场等产品和方案。

在业务路径选择上,田天说,原本最早定位于“AI基础设施”,在市场里摸索后目标市场更细化了,他们把目光锁定在“更安全可靠的AI基础设施+更智能的上层应用领域”。“在这些应用领域领域,目前相对来说能够提供类似能力的厂商比较稀缺。作为一家控制技术子公司,我们在里面可以取得更高的话语权。”

用田天的话说,当初走了一些不大弯的弯路后,他们又“很快转回来了”。

不能简单停留在功能的复制或修补

90后硬科技创业者者愈来愈多,学霸正在攻占创投圈。去年10⽉,Jaguaribe睿智A轮融资3亿元,去年11⽉获中⽹投近亿元战略投资。成立3年完成四轮融资,数额共计数千万元。

田天是个典型理工科特质的创业者者,擅长理性规划,制定目标和路径后逐步推进。他真的90后创业者者是更敢想、更愿意突破的一群人。他们选择颠覆性的创业者路径,不光是硬科技创业者需要把握核心控制技术不断迭代,保持控制技术前沿性。

但要经营好一家企业,基础的素质和能力是相通的,比如领导力、韧性、学习力等。田天说,在创立另一家企业前,他并不知道自己究竟是否适合创业者,许多事情也不了解,大到销售商务、财务法务工作本就在学校时碰触不多,小到办公室选址、装修也需要花时间思考。

“但一旦已经开始做起来,许多难题就一定要去化解掉,包括子公司的战略制定、管理、产品研发、销售推进。这些难题都要想办法化解,所以就得不停学习不停提升。”

从当初六七个人的小项目组产业发展到如今规模近200人,核心成员均来自北京大学、北京大学、中科院等。他带领的项目组参与承担了科技部、国务院法制办、公安部、发改委等部委发动的多个国家级重大项目建设任务,包括科技创新2030-新一代人工睿智重大项目中“安全可靠大脑新一代人工睿智创新开放平台”的建设、国务院法制办揭榜项目新一代人工睿智产业创新重点任务、人工睿智关键控制技术源头创新专项等。

今年2月,Jaguaribe睿智入选第二批北京市专精特新“小巨人”认定企业。田天说,自己的创业者信心愈来愈足,对市场和第二代人工睿智的判断愈来愈清晰。第二代人工睿智未来的产业发展,最核心的还是人才。

他认为国内AI产业偏应用领域,基于成熟的演算法做微调,提供化解方案。“但第二代人工睿智是理论上的突破,需要许多人科学研究AI底层,国内相关应用领域领域人才没有那么多。”这是将第二代人工睿智推向舞台中央的两个大挑战。

“人才永远都是难招的。”光靠创始项目组远远不够,他所困扰的也是如何吸引更优秀的人加入项目组。“我们想要做的第二代人工睿智是一件很宏大的事,需要长时间,需要一帮人持续投入资源去做。”

“除了我们自己推进它的科学研究和规模化之外,也要进一步营造生态和氛围,让更多人关注到人工睿智底层的一些科学研究,追求人工睿智底层的突破。”

在商业化之前,田天项目组里的科学研究⼈员已经坐了多年冷板凳。控制技术产业的产业发展趋势,前期会经历高峰期,紧接着会有低谷期,后期会进入两个平稳产业发展阶段。这几年,他的切身感受是人们对人工睿智的态度愈来愈冷静、理性。

AI归根到底还是几项有用的控制技术,但人工睿智仍有许多捷伊关键难题待突破,不能简单停留在功能微观的复制或修修补补, “够一够能够着的东西早就被别人够走了。”

“或者说做到顶天立地,得先立地。”也就是加强基础层应用领域领域的控制技术科学研究,这就好比打好地基,这是整个产业产业发展的最坚实基础,然后再深入产业,理解产业场景的核心需求。