OpenAIは最近、自社のAIモデルに関する「モデル仕様」を更新し、性的描写や残酷描写を含むセンシティブなコンテンツの生成方針を明示しました。
この変更により、特定の文脈において適切な形でコンテンツが生成されることが許可されるようになります。
新しい規則では、未成年者を巻き込む性的コンテンツや個人情報を含む制限が強化され、さらに危険な情報や違法行為を描写することは厳密に禁止されます。
例えば、教育的・医療的な目的であれば、適切な状況下において歴史的背景を踏まえたコンテンツは生成が許可されます。
このような規則が設けられた背景には、ユーザーからの要望や社会的な期待があるように思えます。
IT系ニュースによると、多くのユーザーが「大人向けモード」の有効化を支持していることが示されています。
つまり、コンテンツの安全性や倫理性といった観点から、プログラムがどのように進化していくのか興味深いところです。
私自身プログラマーとして考えると、このような規制は技術の進歩とともに避けられないものであり、倫理的な利用を考慮した場合には重要な一歩だと思います。
未来のAIがどのような表現の自由を持ち、またそれをどう制御するのかという問題には、引き続き注目していく必要があります。
AIの可能性を広げつつも、使用者の安全や社会倫理を確保するという課題は、今後も多くの議論を呼びそうです。
