现在,AI可以使用任何语言进行编码,而无需额外的训练。
2017年,研究人员问:人工智能能否在2040年之前编写出大多数代码? Beta测试人员现在正在使用OpenAI的GPT-3,它已经可以使用任何语言进行编码。 机器主导的编码几乎就在我们家门口。
GPT-3接受了数千亿个单词或基本上整个互联网的训练,这就是为什么它可以使用CSS,JSX,Python进行编码的原因-随便您如何命名。
此外,GPT-3无需针对各种语言任务进行"训练",因为其训练数据无所不包。 相反,当给出琐碎的指令时,网络会将自己限制在手头的任务上。
GPT-n的演变
GPT通过将有监督的学习与无监督的预培训配对(或将无监督步骤的参数用作有监督步骤的起点),实现了语言任务的最新水平。 与后续产品相比,GPT很小。 它仅在几千本书和一台8 GPU机器上进行了培训。
GPT-2极大地扩展了内容,包含10倍的参数,并提供了10倍以上的训练数据。 尽管如此,该数据集还是相对有限的,并且专门针对"来自Reddit的出站链接进行了至少3业力"的训练。 GPT-2被描述为"类似变色龙"的合成文本生成器,但在诸如回答问题,总结或翻译之类的下游任务中并不是最先进的。
GPT-3是AI世界中最新,最强大的工具,它在一系列任务中达到了最先进的水平。 它的主要突破是消除了针对特定任务的微调的需要。 在规模方面,该模型再次大幅扩展,达到了1,750亿个参数,是其前身规模的116倍。
尽管完全不需要训练GPT-3(零镜头学习的一个例子),但单次学习或几次镜头学习都已经使GPT-3令人印象深刻的表现黯然失色。
进化还是死亡
情况就是这样:Beta测试人员正在使用GPT-3生成有效的代码,并且需要掌握一些琐碎的知识。 从按钮到数据表,甚至可以重新创建Google主页。 这些示例都是通过零镜头学习完成的。
除了AI的飞速发展外,另外两个主要的技术趋势正使现实成为现实,那就是编程工作将来将变得不安全:无代码和AutoML。
无代码是指可视化工具,使任何人都可以轻松构建新产品,无论是网站,设计,数据分析还是模型。 WordPress,Wix和Shopify都是无代码工具的典范,它使数以百万计的人可以自己做事,而不必雇用开发人员或设计师。
第二个趋势是AutoML,即自动机器学习,它大大缩短了将AI投入生产的时间。
像Apteo这样的工具结合了这些趋势,使任何人都可以部署AI模型而无需任何编码技能。
GPT-3将引发另一波无代码和AutoML工具的浪潮。 许多可能的雇主会选择这些工具,而不是雇用昂贵的程序员。
自然,技能最差的程序员将是最先进入的领域,而专家将享有更长的工作安全性-与任何领域一样。
不仅仅是代码— GPT-3应用于任何语言任务
要将GPT-3定向到特定的语言任务,只需向其提供一个示例,说明您希望实现的目标。 因此,虽然您可以指导GPT-3编写代码,但也可以指导它编写诗歌,音乐,社交媒体评论或任何其他文本。
例如,如果您要生成新闻文章,则可以输入诸如"联合卫理公会同意历史性分裂"之类的标题,以及诸如"反对同性婚姻的人将构成自己的宗派"之类的副标题。
使用此输入,GPT-3产生以下结果:
"经过两天的激烈辩论,卫理公会联合会达成了历史性的分裂-预期这种分裂将以新教派的建立而告终,根据《华盛顿邮报》的说法,该教派将是"神学和社会保守派"。 参加5月教堂年度大会的大多数代表投票表决,加强了对LGBTQ神职人员的戒律的禁令,并制定了新规则,将"纪律"主持同性婚礼的神职人员。 但是那些反对这些措施的人有一个新计划:他们说到2020年他们将组成一个单独的教派,称他们的教会为基督教卫理公会教派……"
只有12%的人正确地指出这是由AI编写的。 88%被骗了。
就像人类一样,仅举一个例子,就可以教GPT-3新单词。 例如,给定上下文:
" Burringo"是具有非常快的加速度的汽车。 一个使用Burringo单词的句子的示例是:____________
GPT-3输出:
在我们的车库里,有一个父亲每天开车去工作的Burringo。
这些结果令人印象深刻。 请记住,人工智能的必然发展,因此对当前性能的任何批评都将化为乌有。
语言以外的知识— GPT应用于图像
GPT可以编写代码,或者可以编写任何东西,但是它也可以生成图像。
这怎么可能?
可以在像素序列而不是文本编码上训练相同的模型体系结构,从而生成新颖的图像而不是新颖的文本。 实际上,这样做是如此出色,以至于与顶级CNN竞争。
我之所以提及这一点,是因为它表明GOT(及其继任者)不仅具有一日更换编码器的潜力,而且鉴于其多功能性,还可以取代整个行业。
结论
GPT-3令人难以置信的性能已经使许多人相信,超级智能比我们想象的要近,或者至少,人工智能生成的代码比我们想像的要近。 它产生富有创造力,有见地,深刻甚至美丽的内容。 有关GPT-3的更多创意示例。