[E-DailyYun Junghoon 记者]一位亲历家人遭遇电话诈骗的开发者,利用人工智能(AI)开发出了一项技术,旨在防止他人遭受类似损失。SKTelecom(017670) 综合安全中心的姜熙道经理正是这位开发者。他亲自开发了能够自动分析恶意应用程序(App)的AI代理程序,从而改变了应对电话诈骗犯罪的现场工作方式。
SKT综合安全中心社会工程学威胁应对团队经理姜熙道(图源:SKT)
据SKT于10日透露,得益于姜经理开发的人工智能代理,原本每天需要耗时约19小时的恶意应用分析工作已实现自动化。从今年4月15日至9月,该技术还帮助约940名SKT客户避免了总计514亿韩元的损失。
SKT自今年3月起与警方合作,运营了这一防范损失的体系。具体流程是:警方从网络钓鱼受害者的手机中提取恶意应用并移交后,SKT对应用进行分析以找出C2(命令与控制)服务器地址,并将该信息共享给三大移动通信运营商。通信运营商则确认曾访问该地址的用户,并将信息转交警方。
在与警方合作初期,仅由姜经理一人逐一分析应用程序。随着预防效果的广为人知,分析对象数量迅速增加。 日均分析量从3月的37起增至5月的67起,增幅约为81%。若要人工分析全部67起案例,每天需耗时19小时。这相当于需要投入3名专职专业人员才能完成的工作量。虽然也曾考虑过委托外部公司处理,但预计每年将耗资10亿韩元以上。
姜经理决定利用AI解决这一问题。他设计了一种多智能体结构,让多个AI智能体分工协作,自主完成应用程序海量代码分析的全过程。该智能体负责找出隐藏在恶意应用中的犯罪分子服务器地址。利用OpenAI Codex进行的开发工作,耗时约一个月完成了原型制作。
由此开发的智能体“M-Triple A”自4月15日起投入实际应用。此前,姜经理需亲自分析所有应用,而现在由AI主导分析工作,专家仅需审查约占整体结果15%的例外情况或新型案例。 如果由人工手动分析新型恶意应用,需要数天时间,但AI能在数小时内完成分析。由此,专业人员投入的时间减少了96%。
成效也体现在数据上。4月15日至9月30日期间,该代理分析的恶意应用达4300余个。 在此过程中,共查获约250个C2服务器地址。基于这些信息,警方赶赴现场,成功保护了约940名SKT客户免受损失,预防的损失金额达约514亿韩元。若将该信息共享给三大电信运营商并用于预防进一步损失这一因素考虑在内,该公司估算其每年创造的社会价值约为2250亿韩元。
SKT开发的恶意应用分析代理取得的成果(图片来源:Yun Junghoon 记者)
姜经理并非从一开始就负责安全工作。他在韩国科学技术院(KAIST)安全研究生院获得博士学位后,于2020年以开发人员身份入职SKT,初期参与了“A.dot”等项目的开发,随后在2023年社会工程学威胁应对团队新设时调入该团队。
他表示:“因为家人中有人曾遭遇网络钓鱼诈骗,所以当社会工程学威胁应对团队成立时,我便想,或许能利用自己的能力为预防此类损失贡献一份力量。”他还表示:“因为能亲眼看到自己帮助客户避免了损失,所以成就感很强。”
目前,姜经理除了从事恶意应用分析外,还参与开发能够将垃圾短信按赌博、成人内容、非法药品等类型自动分类的智能代理。这是为了超越单纯判断是否为垃圾短信的层面,进一步优化各类型的拦截策略。
姜经理表示:“安全领域就像一场永无止境的‘攻防战’,我们一堵住漏洞,犯罪分子就会以新的方式绕过防线。”他补充道:“我会继续思考如何开发对客户有帮助的技术。”
据SKT于10日透露,得益于姜经理开发的人工智能代理,原本每天需要耗时约19小时的恶意应用分析工作已实现自动化。从今年4月15日至9月,该技术还帮助约940名SKT客户避免了总计514亿韩元的损失。
SKT自今年3月起与警方合作,运营了这一防范损失的体系。具体流程是:警方从网络钓鱼受害者的手机中提取恶意应用并移交后,SKT对应用进行分析以找出C2(命令与控制)服务器地址,并将该信息共享给三大移动通信运营商。通信运营商则确认曾访问该地址的用户,并将信息转交警方。
在与警方合作初期,仅由姜经理一人逐一分析应用程序。随着预防效果的广为人知,分析对象数量迅速增加。 日均分析量从3月的37起增至5月的67起,增幅约为81%。若要人工分析全部67起案例,每天需耗时19小时。这相当于需要投入3名专职专业人员才能完成的工作量。虽然也曾考虑过委托外部公司处理,但预计每年将耗资10亿韩元以上。
姜经理决定利用AI解决这一问题。他设计了一种多智能体结构,让多个AI智能体分工协作,自主完成应用程序海量代码分析的全过程。该智能体负责找出隐藏在恶意应用中的犯罪分子服务器地址。利用OpenAI Codex进行的开发工作,耗时约一个月完成了原型制作。
由此开发的智能体“M-Triple A”自4月15日起投入实际应用。此前,姜经理需亲自分析所有应用,而现在由AI主导分析工作,专家仅需审查约占整体结果15%的例外情况或新型案例。 如果由人工手动分析新型恶意应用,需要数天时间,但AI能在数小时内完成分析。由此,专业人员投入的时间减少了96%。
成效也体现在数据上。4月15日至9月30日期间,该代理分析的恶意应用达4300余个。 在此过程中,共查获约250个C2服务器地址。基于这些信息,警方赶赴现场,成功保护了约940名SKT客户免受损失,预防的损失金额达约514亿韩元。若将该信息共享给三大电信运营商并用于预防进一步损失这一因素考虑在内,该公司估算其每年创造的社会价值约为2250亿韩元。
姜经理并非从一开始就负责安全工作。他在韩国科学技术院(KAIST)安全研究生院获得博士学位后,于2020年以开发人员身份入职SKT,初期参与了“A.dot”等项目的开发,随后在2023年社会工程学威胁应对团队新设时调入该团队。
他表示:“因为家人中有人曾遭遇网络钓鱼诈骗,所以当社会工程学威胁应对团队成立时,我便想,或许能利用自己的能力为预防此类损失贡献一份力量。”他还表示:“因为能亲眼看到自己帮助客户避免了损失,所以成就感很强。”
目前,姜经理除了从事恶意应用分析外,还参与开发能够将垃圾短信按赌博、成人内容、非法药品等类型自动分类的智能代理。这是为了超越单纯判断是否为垃圾短信的层面,进一步优化各类型的拦截策略。
姜经理表示:“安全领域就像一场永无止境的‘攻防战’,我们一堵住漏洞,犯罪分子就会以新的方式绕过防线。”他补充道:“我会继续思考如何开发对客户有帮助的技术。”