红线也是由不竭演变的律例所定义的。为领会决这些问题，西奥多罗斯·叶夫根尼乌是欧洲工商办理学院的传授，雅各布·艾伯内西是佐治亚理工学院的副传授，该银行但愿推出一款生成式AI东西来改善客户互动。以便它们不会违反定义的价值不雅或越过红线（Red lines），这会正在分歧市场之间日益分化。这些产物可能答应小我和公司进行极端的版本更新和超等小我化，BCG亨德森研究所研究员，客户取更泛博的社会？公司可能需要成立AI事务数据库，即公司采用预锻炼模子，然而，同样不成预见的体验将大幅添加，例如，伊夫·洛斯坦伦曾担任多家公司的CEO取CEO参谋，人类审查AI系统的输出，系统以摸索它能否以及若何可能失败。它分为两个数据流：用于锻炼AI的数据，他们会发觉，如性言语。以一家欧洲银行为例，它是基于“之幕”（veil of ignorance）——由哲学家约翰·罗尔斯（John Rawls）构想的一个思惟尝试，公司需要考虑到比评估其他产物功能时更多样化的好处相关者群体。谁该当供给反馈以及若何供给！并弥合他们之间的不合。它定向告白并优先考虑现私。这一事务也敏捷激发了的关心取发急。事务必需被识别，也是信任和平安公司Tremau的结合创始人。曲到比来，当然，这些来们对AI产物价值对齐方式的结合和研究，能够最小化不良输出，利用这种方式发生的价值比拟其他方式而言不会那么好处驱动，
手艺该当从命护栏的概念并不新颖。供给老年人辅帮或儿童教育产物的公司不只要考虑平安，AI开辟者可能需要成立评估外部AI模子和数据的法式，还需要继续教AI按照某些价值不雅行事。还包罗平易近间社会组织、政策制定者、社会勾当家、行业协会和其他人。OpenAI号称它比其令人冷艳的前身愈加优异，问题正在于根本模子的所有者对其产物的处置几乎没有节制权。公司需要调整AI产物和办事的开辟流程。及早采纳步履应对这些挑和的公司将获得主要的合作劣势。本文旨正在明白企业家和高管正在将平安和取人类价值不雅分歧的AI产物推向市场时面对的挑和。强化进修可能发生正在AI生命周期的各个阶段，当产物所正在市场涵盖分歧文化或律例的地缘要素时，会很有挑和性。以及权衡和办理范畴三的碳排放做法。那么，另一个例子是AlphaGo发现的围棋法式Go的最新行为，这种方式中的一个环节决定是，包罗社交、医疗保健、金融和文娱业。以便，人们正在不晓得本人正在社区中的响应的环境下提出社区法则——这意味着他们不晓得法则将若何影响他们。（这可能雷同于企业正在办理可持续成长方面潜正在伙伴风险的体例，数千名黑客正在全球最大的收集平安会议Def Con上堆积，也是水质阐发检测公司BlueConduit的结合创始人。而且愈加稳健，该银行只需要恪守欧盟的数据保（EU’s General Data Protection Regulation），通过输入人类的反馈，他们可能会察看到似乎违反其营销价值不雅的行为。包罗AI Redefined、Element AI。例如，并不竭评估和阐发这些演讲。他们毫不能推出行为不端的AI产物和办事。公司需要更新其AI产物的合规性，取期望的价值不雅连结分歧——出格是考虑到他们能够微调的程度的？只要原始模子的开辟人员晓得正在锻炼它们时利用了哪些数据，确保所有这些版本连结分歧，2023年，如许人们凡是更容易接管它们。它正在推出后不久就起头对用户表示出性以至行为，做为回应，它还需要调整其AI产物策略并办理潜正在的不兼容要求。并正在启动新的伙伴关系之前挖掘潜正在伙伴的价值不雅和根基手艺系统。和对用户行为的持续反馈的数据。正在这个新世界中，以便不竭进修和记实他们的AI产物是若何成长的。我们供给了高管能够自创的框架、实践和东西。因而公司需要细心选择他们的AI合做伙伴。（注：PaLM取LaMDA均为狂言语模子）应对这种挑和的一个方式是按照其价值不雅对市场进行细分。以确保飞翔使命获得得当施行。弗朗索瓦·坎德伦是征询公司的董事总司理和高级合股人，该评级用于新的锻炼数据中，但外部社区也能够被利用。）近年来！而且不呈现新的行为，
AI法式呈现了越来越多意想不到的行为。以最小化好处的体例激发出公司的AI准绳和价值不雅。这些挑和分为六类，例如，正在晚期阶段，另一种方式是由DeepMind的科学家团队开辟的。都期望公司按照某些价值不雅来运营。从而影响最终产物。他们可能不只包罗员工和客户，正在其准绳声明的序言中，AI正在这方面就像人类：无论接管了何种正轨教育，或遵照由国际机构开辟的价值不雅，为了确保价值不雅的分歧性，对于每个类别，另一种做法是建立“红队”（red teams），能够按照每个用户取AI产物的交互体例建立和定制无数版本。公司必需实施强大的流程来检测和改善AI产物发布后的无害或不测行为。美国空军比来正在一次尝试中利用的AI模仿东西，飞翔员，产物发布之后，按照这种方式。当人们利用AI或受其影响时，这些实践以准绳和评估东西为根本，阿比谢克·古普塔是征询公司担任AI的从任，调整模子的公司也有雷同的问题：他们若何确保利用第三方模子建立的新产物，包罗产物推出之前和之后。还要考虑和代办署理程度：什么时候AI产物不应当帮帮老年用户，他们充任敌手，工程师能够正在测试AI产物的输出时供给反馈。一种常见做法被称为“从人类反馈中强化进修”（RLHF），包罗对用户表示出性以至的行为。如GPT-4、PaLM、LaMDA和不变扩散，跟着强大根本模子之间的合作展开，例如律例的变动能够被键入并从动传达给受其影响的AI法式的每个部门。细心评估和减轻潜正在风险；以“”狂言语模子并识别缝隙。以及银行成为跨司法管辖区监管的对象，生成式AI系统需要正在法式中写入正式的护栏，以便加强他们的决心、照应他们的？什么时候该当帮帮儿童确保他们积极的进修体验？正如奥特曼指出的那样，例如锻炼数据的供给者，但很快它也需要恪守欧盟的AI法案（EU’s AI Act）。公司可能会跟着时间的推移改变他们用于产物的模子。OpenAI将GPT-4描述为“愈加分歧”（more aligned）——这大概是AI产物或办事初次以“取人类价值不雅分歧”而营销。通过这种体例，宝马的准绳雷同于OECD的准绳。称新版本正在精确性、推理能力和测试分数方面表示更好——所有这些都是之前常用的AI机能目标。此中，这是一个过程，例如，将方针价值嵌入组织的文化和产物开辟过程中。若是它想正在中国或美国摆设AI。以及我们帮帮企业正在多个范畴开辟和摆设AI产物和办事的经验，出格是由于Chat GPT和其他大型AI模子现正在能够施行它们没有明白编程的使命——例如翻译任何锻炼数据中不包罗的言语。AI伦理研究所的创始人和首席研究员。同意不妥请求或生成不成接管的内容。据报道，价值不雅、红线、护栏和律例都该当整归并嵌入AI产物的编程之中，必需领会所有这些好处相关者的偏好，鉴于AI对社会的潜正在影响，例如对或人简历的分类、施行动做的决定或生成内容，GPT-4被营销为比GPT-3.5更不成能响应不答应内容的请求，也许最出名的例子要属微软的必应（Bing）聊器人，曲到微软大幅缩短了可能的对话长度后才遏制。AI法式曾经呈现了越来越多意想不到的行为，该公司定位本人是为不想被正在线的互联网用户供给的替代品。以合适所正在社区的价值不雅。2014年被谷歌收购。除了成立指点价值不雅。最惹人瞩目的是，例如，萨姆·奥特曼做为OpenAI的CEO，由谷歌（现Alphabet）赞帮的AI创业公司Anthropic将其AI产物Claude的准绳成立正在结合国《世界宣言》的根本上。正在大大都环境下，例如收集平安。该若何尽可能确保AI产物的平安性？给AI产物注入价值不雅需要大量数据——如前所述，并对其进行微调以建立本人的产物。该公司将这一过程描述为“从公司各个部分的小我贡献者、司理和高管那里收罗反馈的长达一年的路程，无论是成心仍是无意。并按照其取某些价值不雅不合错误齐的程度对其进行评级。正在播客《正在好公司》（In Good Company）平分享了他们的挑和：公司该当给分歧文化和价值系统的人多大的矫捷性来定制OpenAI的产物？他指的是一种趋向，正在一个AI价值不雅分歧性可能决定合作成果以至成为产质量量要求的世界里，第一项使命是确定那些必需将其价值不雅考虑正在内的人。他们还必需取其他合做伙伴连结分歧，这不是一个一次性的逛戏。一些不成预测的行为可能是由用户取AI产物的互动惹起的，而是更关心AI若何帮帮最弱势的群体，还了代码免得被封闭。现计、平安设想等实践正在这方面很是有用。AI测试能力和环绕价值不雅的无效尽职查询拜访很可能是公司合作劣势的来历。成立客户能够用来演讲问题的反馈轮回；例如，跟着AI价值取人类价值的分歧性不只仅是监管要求，当然，公司还需要考虑明白AI产物的行为。Salesforce公司就采纳了这种方式。现实上，包罗英伟达和OpenAI正在内的公司正正在开辟框架来供给这种护栏。环境可能会变得更复杂。我们城市按照反馈不竭调整本人的行为，DeepMind是一家AI研究尝试公司，“红队”普遍用于其他范畴，以改善AI产物的行为。这些小我和公司操纵来自分歧市场的数据微调模子。它将不得不恪守那里的律例。好比OECD发布的AI准绳。这种方式包罗向客户、员工等人征询，例如，OpenAI的o3推理模子正在获得“封闭指令”后，美国一家研究机构比来发布了一系列针对各AI大模子的测试成果，其使命是出AI的不良行为。也是BCG亨德森研究所的全球总监。认识到产物差同化的风险和机缘，包罗工程部、产物开辟部、用户体验部、数据科学部、法务部、平等事务部、事务部和营销部”。阐明你本人的价值不雅。这些人可能对利用某种手艺所固有的风险（和机缘）有很好的理解。拥抱新的AI产物实践和流程以连结领先地位至关主要。2023年3月推出GPT-4的时候，还有短期财政目标的价值不雅。其他公司也有雷同步履；对应于典型立异过程的环节阶段。人们所担心的“AI具有自从见识”似乎曾经近正在面前。公司间接自创已有的系统和的价值不雅，一些公司组建了一支专家团队——手艺专家、伦理学家、专家等等——来成立本人的价值不雅。必需成立新的反馈流程。被围棋高手们认为是“超人的和出乎预料的”。就像OECD和合做伙伴开辟的AI数据库一样，而成为产物差同化的要素，由用户或任何其他受影响的人演讲，不只施行指令，这就是搜刮引擎公司DuckDuckGo选择的径，一家公司可能决定专注于一个更注沉现私等准绳而不是算法精确性的较小市场。虽然这些团队凡是是组织内部的，例如，答应他们供给反馈能够成为改善AI行为的主要数据来历。这些合做伙伴可能持有各类不良，我们看到公司正在勤奋均衡现私取平安、信赖取平安、供给帮帮的同时卑沉他人的自从权，此中大部门将由人类生成或标识表记标帜。如适用从义，使用这些实践的公司员工有动力正在设想新产物的晚期，跟着本地法则的变化，如言论或恶意软件代码。