产品战略专家梁宁确认出席AICon北京站,分享AI时代下的商业逻辑与产品需求 了解详情
写点什么

担心内部文件被泄露,三星之后,又一大厂宣布禁用 ChatGPT

  • 2023-05-25
    北京
  • 本文字数:1276 字

    阅读完需:约 4 分钟

担心内部文件被泄露,三星之后,又一大厂宣布禁用ChatGPT

据《华尔街日报》报道,一份苹果内部文件显示,苹果禁止内部使用 ChatGPT 和类似产品。根据该文件,苹果的担忧与其他禁止在内部使用 ChatGPT 的公司一致,即 AI 可能会泄漏与其共享的敏感内部信息。 

 

除了 ChatGPT,苹果还禁止使用 GitHub 的自动编码工具Copilot。有消息称,苹果很可能正在开发自己的 AI 大模型,与 ChatGPT 和 Google Bard 竞争。

 

目前,已经有不少公司宣布禁止员工在内部使用 ChatGPT,如三星、摩根大通、美国银行、花旗集团、德意志银行等。

 

其中,三星曾两次宣布禁止内部使用 ChatGPT。今年 3 月前,三星曾宣布禁用 ChatGPT,3 月份,三星解除了这一禁令。据外媒报道,三星引入 ChatGPT 不到 20 天就发生了 3 起涉及 ChatGPT 的事故。三起泄密事件均发生在三星电子半导体暨装置解决方案(Device Solutions,简称“DS”)部门。其中,两起与半导体设备有关,另外一起与会议内容相关。

 

在设计晶片设备的事件中,三星半导体事业暨装置解决方案部门(Device Solutions,即 DS)的一名员工在测试设备下载软体的过程中,将出现问题的原始代码复制到 ChatGPT,并向其请教解决办法,但这一操作反而让三星设备测量相关的原始码成为 ChatGPT 学习资料。另一起则是有员工为了解设备良率等相关资讯,将程式码输入 ChatGPT,要求其优化代码。

 

虽然是保密工作,但为了尽量提高效率、为公司节约时间以测试和验证处理器,最终降低开发成本,三星还是决定允许员工使用外部 AI 服务。

 

第三起则是,有员工使用 ChatGPT 将会议记录转换成演示文稿,但其中却涉及大量三星明显不希望对外透露的内容。

 

三星本月早些时候重新实施了 ChatGPT 禁令,以防止类似事件再次发生。

 

ChatGPT、谷歌 Bard 和 LLM 机器人的问题在于,输入到它们的数据往往被用于进一步培训这些机器人,英国情报机构 GCHQ 警告称,如果其他人提出类似问题,这些数据很容易导致机密商业信息被回流。

 

此外,ChatGPT 等产品还存在软件漏洞问题。今年 3 月,OpenAI 承认开源库中的一个错误 redis-py 导致其他用户可以看到人们与 ChatGPT 的一些谈话。卡巴斯基首席数据分析师 Vlad Tushkanov 告表示,这个错误应该提醒我们,LLM 聊天机器人不会为用户提供任何真正的隐私。

 

“ChatGPT 在登录时警告说‘对话可能会被我们的 AI 培训师审查’……因此从一开始,用户在使用 ChatGPT 网络演示时就应该对隐私抱有零期望,”Tushkanov 说。 

 

针对这些质疑,OpenAI 也正在做出改进。今年 4 月,OpenAI 为 ChatGPT 用户添加了禁用聊天记录的功能,这不仅可以在 ChatGPT 界面的侧边栏中隐藏聊天记录,还可以防止禁用历史记录的聊天记录被用于训练 OpenAI 的模型。

 

OpenAI 表示,当历史记录被禁用时,它仍会保留对话 30 天,并且它有能力“在需要监控滥用情况时,在永久删除之前”对其进行审查。


“我们希望这提供了一种比我们现有的退出流程更容易管理数据的方法,”OpenAI 在公告中写道。该公司补充说,用户可以随时更改他们的聊天记录设置。

 

在同一份声明中,OpenAI 还表示将很快推出商业版的 ChatGPT,让企业能够更好地控制其数据的使用,OpenAI 表示这意味着 ChatGPT 商业对话不会用于培训其 LLM。 

2023-05-25 16:266580

评论

发布
暂无评论
发现更多内容

Xposed简介以及小米去桌面广告的简单实现,五步搞定Android开发环境部署

android 程序员 移动开发

static修饰符学习汇总,android系统软件开发

android 程序员 移动开发

Aeron中这么多空闲策略选哪个?

BUG侦探

Aeron 开发技能

Windows安装repo的真正解决方案,移动终端软件开发颜色演示

android 程序员 移动开发

WorkManager完全解析+重构轮询系统,大厂面试题汇总

android 程序员 移动开发

Python代码阅读(第50篇):对列表间隔取元素

Felix

Python 编程 Code Programing 阅读代码

ViewPage实现一屏多页面显示(进阶版),简直无敌

android 程序员 移动开发

WMRouter:美团外卖Android开源路由框架(1),看完老板哭着让我留下来

android 程序员 移动开发

WebView开源库终极学习方案,android开发艺术探索pdf

android 程序员 移动开发

[译] Android 的 Java 9,10,11,作为程序员一定不要仅仅追求物质

android 程序员 移动开发

ViewPager2重大更新,支持offscreenPageLimit,kotlin动态语言

android 程序员 移动开发

zookeeper使用篇-Zookeeper Api实践,flutter下拉刷新上拉加载更多

android 程序员 移动开发

[Android-Gradle]-搞定Groovy闭包这一篇就够了,小程序开发步骤

android 程序员 移动开发

合同管理系统主要增加了安全性,对于大型企业作用重大

低代码小观

企业管理 管理系统 管理工具 合同管理系统 企业合同管理

STM32~配置时钟频率[一文带你解决STM32主频配置],flutter跳转到系统设置

android 程序员 移动开发

TT语音线程优化,Android开发快速学习

android 程序员 移动开发

Probe:Android线上OOM问题定位组件,移动互联网app检测取证系统

android 程序员 移动开发

网盘数据要搬家?焱融 SaaS 数据服务平台教你这么干

焱融科技

云计算 分布式 高性能 文件存储 SaaS平台

[译] Android 的多摄像头支持,flutter登录

android 程序员 移动开发

WMS-是如何拿到-Token-的?,flutter屏幕旋转监听

android 程序员 移动开发

RecyclerView 是 “何方神圣“,农民工看完都学会了

android 程序员 移动开发

RadonDB MySQL on K8s 2.1.0 发布!

RadonDB

MySQL 数据库 Kubernetes

UI组件化--干掉shape终极一战,android模块化框架

android 程序员 移动开发

Toolbar在Android中的使用,2021大厂面试合集

android 程序员 移动开发

View 事件分发机制,看这一篇就够了,flutter登录注册

android 程序员 移动开发

超牛无损图片放大神器PhotoZoom,你值得拥有!

淋雨

PhotoZoom

RxJava 沉思录(三),微信小程序的事件处理

android 程序员 移动开发

RxJava-不是上帝,真不推荐再用了,移动混合开发框架

android 程序员 移动开发

RecyclerView-的复用机制,Android开发面试技能介绍

android 程序员 移动开发

RxJava-2-0还没熟悉,RxJava-3-0说来就来了!,安卓开发工具

android 程序员 移动开发

6.0反序列化漏洞分析

网络安全学海

网络安全 信息安全 渗透测试 WEB安全 安全漏洞

担心内部文件被泄露,三星之后,又一大厂宣布禁用ChatGPT_文化 & 方法_凌敏_InfoQ精选文章