MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

新闻 人工智能
漫漫尘埃下,掩藏了许多曾经辉煌灿烂古代文明,但我们现在却无法清晰地知道,这些地方究竟发生了什么。搞懂这些历史的最佳方式,就是找到他们的文字记载。

 本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

漫漫尘埃下,掩藏了许多曾经辉煌灿烂古代文明,但我们现在却无法清晰地知道,这些地方究竟发生了什么。

搞懂这些历史的***方式,就是找到他们的文字记载。However,记载文字的石碑可以被考古学家们挖出来,但这些古文字究竟啥意思,现代的人们看不懂,需要语言学家们耗尽青春来推测。

现在,MIT CSAIL和谷歌大脑的研究者出手了,他们用机器学习破译了乌加里特文线性文字B

[[270013]]

△ 乌加里特王宫

乌加里特文,Ugaritic,是一种楔形文字,属于闪米特语族。从字面上来看,就知道它是一个叫做乌加里特(Ugarit)的文明使用的语言,这个文明位于当今地中海沿岸的叙利亚,在公元前6000年前后就初现踪迹,在公元前1190年前后灭亡。

[[270014]]

△ 乌加里特文

线性文字B,Linear B,由一种人类还没有破译出来的线性文字A演化而来,主要存活于公元前1500年到公元前1200年的克里特岛和希腊南部,是希腊语的一种古代书写形式。

[[270015]]

△ 线性文字B

研究者们利用同一语族内不同语言之间的联系,用机器学习的方法来破译这两种失传的语言,这是破译古代语言的新方法,也将对罗曼语族的语言学研究有巨大的影响和提升。

这个方法让许多人惊叹:

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

简直是现代版的罗塞塔石碑!

PS,罗塞塔石碑是一块用3种语言写了同一个内容的石碑,帮助语言学家们读懂古文字。

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

希望能先把动物和植物的语言破译了,可以发现打开新世界的大门。

人类语言总相通

这项研究的核心方法,是借助人类语言的相似性。

比如,知乎用户@拉队短 在介绍欧洲语言相似性的时候,举了这么个栗子:

句子“那是六月末潮湿阴沉的一个夏日。”

英语:It was a humid, grey summer day at the end of June.

丹麦语:Det var en fugtig, grå sommerdag i slutningen af juni.

瑞典语:Det var en fuktig, grå sommardag i slutet av juni.

挪威语:Det var en fuktig, grå sommerdag i slutten av juni.

冰岛语:Það var rakur, grár sumardagur í lok júní.

看,长得差不多嘛,毕竟同属印欧语系日耳曼语族,单词的分布位置、句子的结构都很相似,如果你能看懂一种语言,就能大致猜测和它“血缘”关系近的另一种语言。

模型训练

为了破解这两种文字,研究者们提出了一个基于字符的seq2seq模型。

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

模型主要包含通用字符嵌入、剩余连接、单调排列正则化几个部分。

其中,线性文字B的字母和希腊文需要进行对应。

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

之后,借助神经解密算法,在具有不同语言特征的多种语言中提供强大的性能。

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

你懂的语言,和你不懂的语言

在算法模型的基础之下,需要的语料库除了待破解的乌加里特文和线性文字B,还需要一些现在的人类能看懂的语言。

研究团队选择了罗曼语族的数据库,包含意大利语、西班牙语和葡萄牙语三种语言的同源语音转录,需要对它们进行同源检测。

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

因此,数据集就用到上面这些,Symbols指的是语言中的字符,Token则是语言学中类似于单词的存在。

准确率

运行成果还不错,乌加里特文在无噪声条件下优于现有方法3.1%,在有噪声条件下优于现在的贝叶斯方法5.5%。

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

而线性文字B,在无噪声条件下准确率高达84.7%,在更具挑战性的LinearB名称数据集中达到67.3%的准确度。

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

在罗曼语族同源识别任务中,西班牙语准确度提升3.4%,葡萄牙语提升1.6%。

MIT&谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”

线性文字B的祖先,线性文字A还没有被人类破译,它被誉为考古界圣杯。

未来,在这项研究起作用的情况下,或许可以像借助罗曼语族三种语言的数据库一样,直接用机器借助其他已知的人类语言,实现暴力破解。

想破脑壳的语言学家们,可以把工作重心放到别的事情上了。

作者介绍

[[270018]]

这项研究的一作Jiaming Luo,正在MIT CSAIL读博,专注NLP研究,此前他也曾在北大从事情绪分析方面的研究。

[[270019]]

Luo同学的导师,也是这项研究的第三位作者Regina Barzilay,她是MIT CSAIL的教授,2017曾因NLP方面的研究获得麦克阿瑟奖金,除了NLP之外,她还研究深度学习在化学和肿瘤学方面的应用。

传送门

论文:

Neural Decipherment via Minimum-Cost Flow: from Ugaritic to Linear B

Jiaming Luo, Yuan Cao, Regina Barzilay

https://arxiv.org/abs/1906.06718

代码及数据集:

https://github.com/j-luo93/NeuroDecipher

 

责任编辑:张燕妮 来源: 量子位
相关推荐

2018-01-26 13:20:12

滴滴AI技术交通难题

2018-11-30 17:59:06

华为

2018-03-26 10:19:09

互联网大数据网络

2011-05-25 16:54:11

2014-04-08 11:28:52

验证码破解

2018-03-26 15:09:35

区块链大数据互联网

2012-03-09 11:17:38

iOSiPhoto谷歌地图

2015-10-19 11:44:00

2023-02-28 15:16:04

AI人工智能

2018-07-06 10:05:22

2018-07-12 11:39:36

2022-06-15 14:59:11

AIMIT

2015-11-18 17:46:37

软件工程

2019-07-18 08:54:42

谷歌Android开发者

2018-02-25 12:14:20

MITAI技术卡顿

2021-12-23 09:38:07

微软图像加密

2022-06-15 18:57:43

人工智能

2023-06-30 13:01:26

2024-03-13 10:09:27

机器人AI模型人工智能

2023-06-16 06:23:20

谷歌AI
点赞
收藏

51CTO技术栈公众号