ChatGpt는 정보 유출 가능성이 있습니까?
중소 기업이 취해야 할 7 가지 측정 및 예제

情報が流出してしまう3つの理由

과거에 여러 번 chatgpt情報漏洩が報告されていますが、主に以下の3つのケースに大別されます。それぞれのケースを詳しく解説します。

① プロンプト情報の漏洩

프롬프트는 사용자가 chatgpt에 들어가는 지침 또는 질문입니다 가장 전형적인情報漏洩프롬프트 (= ChatGpt에 입력 데이터)에 중요한 정보 (예 : 개인 정보 또는 기밀 회사 정보)가 포함되어있을 때 패턴이 발생합니다 일반적으로 Chatgpt는 데이터베이스에서 사용자가 입력 한 정보를 저장합니다 다시 말해, 그것은 "학습"을 의미하지만 그 정보는 다른 사용자의 응답에 사용되며 의도하지 않게 사용됩니다情報漏洩につながる場合があります。

Chatgpt의 웹 버전 만 프롬프트에서 정보를 배우고 API 버전 (※ 2)에서 기밀 정보를 입력하더라도 답변으로 사용되지 않습니다

② アカウント情報の流出

ユーザーが意図せず、プロンプトに機密情報を入力してしまうことで起こる情報漏洩외에도 Chatgpt 계정 정보가 유출되는 경우가 있습니다 2023 년 3 월, Openai는 "Chatgpt"라는 유료 계획을 제공 할 예정입니다

流出したのは有料会員のうち約1.2%の個人情報で、ログイン時にほかのユーザーの氏名、住所、メールアドレス、クレジットカード情報の一部などが、約10時間にわたって表示されるという事態になりました。

③ チャット履歴の流出

이 "chatgpt"

その後バグは修正されましたが、この事例からもプロンプトやチャットの内容が意図せず他人に見られてしまうケースが起こり得るということがわかります。会社の機密情報などを入力していたら、不特定多数の人の目に触れていたかもしれないということです。

機密情報が外部に漏洩

한국의 주요 기술 회사는 비즈니스에 Chatgpt를 사용했지만 2023 년 3 월에는 기밀 정보의 세 가지 유출이있었습니다 이는 엔지니어가 프로그램 오류를 제거하기 위해 ChatGpt에 독점적으로 개발 된 기술을 통합 한 소스 코드와 같이 외부에서 출판 할 수없는 매우 민감한 소스 코드 (*4)를 입력하여 발생했으며, 회의에서 말한 신제품 표준 및 직원 평가에 대한 정보와 같은 자세한 정보를 텍스트로 입력함으로써 발생했습니다

ChatGpt 서버 (OpenAI System)에 기밀 정보가 저장 될 때 위의 모든 사례가 외부 세계에 저장되었으므로 회사는 chatgpt 사용에 대한 제한을 비상 조치로 설정했으며 그 이후로 완전히 금지되었습니다

この事例は、従業員の何気ない業務効率化の試みが、企業の機密情報を危険にさらす可能性を浮き彫りにし、世界中の企業に対しセキュリティ対策の再考を促す契機となりました。

アカウントが闇市場で取引

싱가포르 정보 보안 회사는 Chatgpt 계정 정보가 일본에서 유출되었다고 발표했습니다 10 만 개가 넘는 chatgpt 계정ダークウェブ（※5）で取引されており、2023年5月までに少なくともそのうち700件近くが日本からの漏洩であると確認されています。

ChatGpt에 액세스하기 위해 계정 정보를 잘못 사용하면 과거의 질문을 볼 수 있으므로 개인 정보, 기밀 회사 정보, 과거에 개발 된 프로젝트에 대한 세부 사항이 제 3자가 알게됩니다 이 문제는 또한 IPA (독립 행정 기관 정보 기술 프로모션 기관)에 의해 매년 출판되는 "정보 보안 2024 년 10 개 큰 위협 2024"에 실 렸으며, 심각성이 지적되었습니다

情報を漏らさないための7つの方法

Chatgpt는 사용자가 업무 효율성을 향상시키기 위해 적절한 조치를 취하는 한 확실히 비즈니스에 효과적인 도구입니다 이를 위해서는 안전한 작동이 가장 중요한 것입니다 여기에서 chatgpt情報漏洩を防ぐ方法を紹介します。

① 機密情報を入力しない

이것은 ChatGpt의 웹 버전에 관한 것이지만 AI가 프롬프트에서 입력 한 정보를 배우고 다른 사람에게 응답 할 수 있으므로 기밀 정보를 입력하는 것은 엄격히 금지되어 있습니다 그러나 인터넷에서 이미 공개적으로 제공되는 한 괜찮습니다

下記の情報は入力しないようにしてください。

• 顧客の個人情報
• 社内の機密資料
• 財務情報
• 未発表の製品・サービス情報
• パスワードやアクセスキー

どうしても機密情報が含まれる場合は、該当箇所をダミー情報に置き換えるなどの工夫が必要です。

② 情報漏洩防止のための「オプトアウト設定」

기밀 정보를 입력하지 않는 것과 같은 기본 운영 규칙 외에도 ChatGpt를 안전하게 사용하려면 "학습을 위해 사용되지 않는"이 정보를 설정하는 것이 효과적입니다

이 설정을 사용하면 ChatGpt 모델을 학습하는 데 사용되는 사용자 입력 데이터를 제한 할 수 있습니다

具体的には、設定画面の「データコントロール」から「チャット履歴とトレーニング」機能をオフにすることで対応可能です。

企業アカウントや複数人で利用している場合、管理者が設定を固定している可能性があります。個別ユーザーの設定画面からは設定の変更ができないので、管理者に連絡を取り、設定の変更を要請（もしくは依頼）してください。また、無料ユーザーも同様に設定を変更できないため、注意が必要です。

③ API 버전 사용

위에서 언급했듯이 ChatGpt의 API 버전 인 경우 기밀 정보를 입력하는 데 아무런 문제가 없습니다 API 버전을 사용하면 AI가 회사의 정보에 대해 배울 수있게하여 회사를위한 ChatGpt로 사용할 수 있습니다 물론 학습 컨텐츠가 API 버전이나 다른 사용자가 사용하는 웹 버전에 반영되지 않을 것임을 확신 할 수 있습니다

④ "Chatgpt Enterprise"비즈니스 계획 사용

Chatgpt는 2023 년 8 월에 발표되었습니다

API 버전과 마찬가지로 기밀 정보를 사용하여 통신 할 수 있으며 모든 대화 데이터는 완전히 암호화 된 엔드 투 엔드 (※ 6)이므로 채팅 기록이 유출되는 것에 대해 걱정할 필요가 없습니다

보안 시스템 "DLP"

DLP (데이터 손실)

つまり従業員がプロンプトに機密情報を入力したとしても、送信がブロックされるため情報漏洩を防ぐことができます。

⑥ "Azure OpenAi Service"

Microsoft가 제공 한 Azure Openai

外部からのアクセス制限もできるため、セキュリティが不安な回線からのアクセスを遮断することで情報漏洩방지 할 수 있습니다 입력 데이터는 AI를 배우는 데 사용되지 않으므로 자신있게 기밀 정보를 처리 할 수 ​​있습니다 내부 챗봇, 코드 검토, 불만 사항 요약 및 감정 분석을 포함한 다양한 작업에 사용됩니다

⑦ アカウントのセキュリティを強化する

계정 정보의 유출 또는 오용을 준비 할 때 계정 보안을 강화하는 것도 중요합니다 일반적으로 Chatgpt는 ID 및 비밀번호를 입력하고 로그인하여 사용할 수 있지만 정보가 유출되면 누구나 쉽게 로그인 할 수 있음을 의미합니다 따라서 비밀번호를 정기적으로 변경하고 어떤 일이 발생하지 않을 가능성이없는 이벤트에서 쉽게 로그인하지 않도록 조치를 취하는 것이 좋습니다 MFA (Multi-Factor Authentication) 활성화도 효과적입니다 로그인 내역을 정기적으로 확인하여 의심스러운 액세스 징후를 확인할 수도 있습니다

① chatgpt에 대한 지침 만들기

chatgpt를 회사로 사용할 때는 가이드 라인이 필요합니다 규칙을 명확히하고 모든 직원이 따라야 할 내용을 알고 조심 해야하는 것을 알면, 적절한 사용을 할 수 있습니다 특히 개인 정보 및 기밀 기밀 정보를 처리하는 방법을 명확하게 결정해야합니다

ガイドラインに含めるべき項目

• 사용 목적 지우기 : ChatGpt를 사용해야하는 일은 어떤 종류의 작업을해야합니까?
• 機密情報の取り扱い基準: 入力禁止情報の具体的リスト
• 利用承認プロセス: 誰がどのような手続きで利用を承認するか
• 違反時の対応手順: ルール違反があった場合の処理方法

가이드 라인을 만들 때 "General Incorporated Association"을 참조하십시오

② chatgpt와 관련된 교육 및 연구 구현

지침을 만드는 것과 함께 직원을위한 교육을 잊어서는 안됩니다 IPA생성 된 AI이를 사용하는 많은 회사들이 "내부 문해력 향상과 인식 촉진"에 대한 규칙의 확립을 지연 시켰다는 것이 밝혀졌습니다 Chatgpt를 사용하는 방법뿐만 아니라 도덕을 포함한이 최신 기술을 다루고 각 직원의 IT 문해력을 개선하기 위해 노력하는 것이 중요합니다

그러나 매뉴얼을 만들어 배포하는 것은별로 중요하지 않습니다 시간을내어 훈련을 실시하고 올바르게 사용하는 방법에 대한 강의를 제공하십시오 직원이 AI 기술을 제대로 이해하고 책임감있게 사용할 수있는 환경을 조성하면 회사 전체의 보안이 향상됩니다

③ chatgpt 사용 제한

ChatGpt를 안전하게 사용하려면 직원 IT 문해력 향상 및 지침 설정과 함께 ChatGPT 사용 범위에 대한 적절한 제한을 설정하는 것이 매우 효과적인 조치입니다 Chatgpt 질문을 일정량의 용량으로 제한하거나 액세스 권한을 부여하는 직원 수를 제한하는 것은 다른 보안 조치보다 쉽고 즉시 수행 할 수 있습니다 또한 Chatgpt 및 질문에 대한 액세스를 기록하고 정기적으로 모니터링하여 부적절한 사용을 확인할 수도 있습니다

여전히 물리적 접근을 제한하려면 위에서 언급 한 "Azure OpenAi"를 참조하십시오

④ セキュリティ対策の見直し

Like ChatGpt생성 된 AI비즈니스에 도구를 도입 할 때 도구의 안전을 보장 할뿐만 아니라 고도로 안전한 도구를 사용하여 보안을 지원하는 ChatGpt는보다 안전한 환경에서 사용할 수 있습니다 이를 위해서는 회사가 취하고있는 보안 측정과 현재의 보안 측정을 이해해야합니다 chatgpt를 올바르게 활용하여 조직의 전반적인 보안 자세를 포괄적으로 검토하는 것이 좋습니다