使用人工智能创建内容时谨慎平衡创造力

emimartinez

内容营销 | 营销行业 作者的观点完全是他们自己的（不包括催眠这一不太可能发生的事件），并且可能并不总是反映 Moz 的观点。 我是那种讨厌写作但又喜欢写作的作家。领导一家营销咨询公司，我 99% 的工作都涉及写作，这只会加剧这个难题。 如果这句话引起您的共鸣，您就会了解 ChatGPT 等生成式人工智能 (AI) 工具对营销人员的吸引力，无论它们是客户端还是代理端。这些技术有可能简化艰巨的写作过程，帮助作家跳过空白页的折磨，快进到发表文章的满足感。这是垃圾食品的承诺，不费力气就能得到满足。 我于 2022 年 11 月首次涉足生成式 AI 世界，最初被 ChatGPT 似乎提供的快速成功所吸引。这是一个可以以闪电般的速度制作出一段又一段看似精心制作的副本的工具。很容易想象这将如何彻底改变我的工作并让我成为散文大师。但我越多地使用一些大型语言模型（LLM）/生成式人工智能工具，我就越意识到其中的风险。尤其是作为与客户合作的人，有责任为他们提供经过充分研究、清晰明确和可信的建议。 这篇文章是我试图为对人工智能革命持怀疑态度的营销人员提供护栏和建议。 每个人都应该遵守的一些基本规则 无论您是使用生成式人工智能工具为自己、雇主还是客户创建内容，都需要遵循一些基本规则。 保护专有信息 永远不要将专有或敏感数据输入到人工智能模型中，包括在公共领域无法免费获得的公司数据和知识产权。

ChatGPT 等大型语言模型存在两个重大问题。第一个是幻觉——指的是生成不基于输入数据或显 目标电话号码或电话营销数据 着偏离输入中存在的事实信息的输出。其次，模型的好坏取决于它们所训练的数据——如果训练数据包含错误信息，模型就可以学习和复制它。 遗憾的是，没有技术解决方案来验证输出是否确实正确。自动事实核查已经存在一段时间了，虽然它在利用可用的权威数据验证一系列基本事实断言方面取得了重大进展，但它仍然有其局限性。到目前为止，还没有任何工具可以完全自动化地以 100% 的准确率检查其他工具的输出。 挑战在于上下文 - 全面事实检查所需的复杂性和上下文敏感性仍然超出了全自动系统的范围。主张的措辞、时间或上下文的细微变化可能会使其或多或少合理。当相关性被误认为是因果关系时，即使是完全准确的统计数据也可能会产生误导（例如，按年份，在泳池中溺水的人数与尼古拉斯·凯奇主演的电影数量相关）。 那么，我们如何利用人类的推理和决策能力来确保事实和数据在正确的背景下得到验证和使用呢？ 通过多个第三方可信来源验证来源、数据和事实 不要相信所提供的信息的表面价值。养成与多个可信来源交叉核对人工智能生成内容中呈现的任何事实、数据或来源的习惯。



这可能包括信誉良好的新闻媒体、政府数据库或学术期刊。 不要信任生成式人工智能工具生成的链接；找到你自己的 虽然像 ChatGPT 这样的人工智能模型可能会建议与该主题相关的链接，但在使用它们之前验证这些链接至关重要。确保链接有效、域名信誉良好、特定页面相关且可靠。在许多情况下，最好从您熟悉的成熟、值得信赖的网站中找到自己的来源。 使用事实核查网站 Full Fact、Snopes或FactCheck.org等网站在验证事实时非常有用。它们提供对主张的详细分析，通常引用其来源，并可以帮助您区分事实与虚构。 获取最新数据 数据的准确性通常具有时间敏感性。一年前的真理今天可能不再成立。在内容中使用数据时，请务必检查其发布或收集的日期。尝试使用可用的最新相关数据，并记住 ChatGPT 的训练数据的截止日期是 2021 年 9 月。因此，如果你问英国女王目前居住在哪里，它会告诉你白金汉宫。 即使使用最新的模型，例如 ChatGPT 4，也不能保证数据或准确性会得到提高。虽然 ChatGPT 4 更擅长综合多个来源的信息，但 OpenAI 仍然承认其幻觉率与之前的模型相似。 还不确定吗？如何处理不确定的信息 当遇到不确定或未经证实的信息时，必须保持谨慎和透明。