AIで作ったアプリは危険？個人開発で見落としがちなセキュリティリスク

どうも、久我レイジです。

AIの進化によって、今までプログラミングができなかった人でも、アプリやWebサービスを作れる時代になりました。

僕自身もAIを活用して、自分専用のプログラムを開発しています。

以前だったら、何かを作りたいと思っても、プログラミングを勉強するところから始めなければなりませんでした。それが今では、AIに自分の構想を伝え、相談しながら形にしていくことができます。

もちろん、思い通りに動かないこともありますし、何度も修正を繰り返す必要があります。それでも、専門的な知識が十分になくても、自分のアイデアを実現できるようになったのは、本当にすごいことだと思っています。

ただ、ここ最近のセキュリティに関するニュースを見ていて、少し考えが変わりました。

AIを使えばアプリは作れる。でも、そのアプリが安全かどうか、僕たちはどこまで理解しているのだろうか。

今日は、そんな話を書いてみようと思います。　

大企業ですら攻撃される時代に、個人が作ったアプリは大丈夫なのか

ここ数日、僕はWordPressやPHPなど、Webサイトのセキュリティに関する情報を追いかけていました。

自分自身もWordPressでサイトを運営しているので、決して他人事ではありません。脆弱性が見つかった場合にどう対応すればいいのか、使用しているソフトウェアは安全なのか、今後も同じ運営方法を続けていいのか。そんなことを、いろいろ考えていました。

ただ、調べていくうちに、気になり始めたことがあります。

大企業や専門のエンジニアが関わるサービスであっても、サイバー攻撃や情報漏洩のリスクを完全になくすことはできません。もちろん、企業が攻撃を受けることと、個人がAIで作ったアプリの安全性は別の問題です。

それでも、十分な知識や経験を持った人たちですら苦労している世界で、僕のようにAIを活用してプログラムを作っている人間は、何を基準に安全だと判断すればいいのでしょうか。

最近よく耳にする「バイブコーディング」という言葉があります。

自然言語でAIに指示を出し、コードの細かな部分をAIに任せながら開発を進める方法です。プログラミングの知識がなくても開発に参加できるという意味では、ものすごく可能性のある技術だと思います。

でも、作れることと、安全に運用できることは同じではありません。ここを一緒に考えてしまうと、思わぬところで問題が起きるのではないかと感じています。

AIが書いたコードを、僕はどこまで理解しているのか

僕は現在、自分専用の「レイジOS」というプログラムを開発しています。

OpenAIのAPIなども活用しながら、自分が必要としている機能を実現していくものです。構想を考えるのは僕で、技術的な実装はAIに手伝ってもらうという形で進めています。

この開発方法は、僕にとって非常に魅力的です。専門的なコードを一から書けなくても、自分が何を実現したいのかを伝えれば、AIが実装方法を考えてくれます。エラーが出れば原因を調べ、修正案を提示してくれることもあります。

僕がこれまで開発で重視してきたのは、自分の構想をどうやって実現するかという部分です。欲しい機能を考え、AIと相談しながら形にしていく。その過程が面白くて、できることが増えるたびにAIの可能性を感じてきました。

ところが、今回のセキュリティに関する情報を追いかけているうちに、ふと自分のレイジOSのことが頭に浮かんだんです。

普段使っているOpenAIのAPIキーは、適切に管理できているのだろうか。外部との通信や、AIが実装した処理について、僕自身はどこまで把握できているのだろうか。

これまで便利だと感じていた開発方法が、急に少し怖くなりました。

例えば、AIがコードを書いて、プログラムが正常に動いたとします。こちらが指示した機能も問題なく使えるようになりましたが、では、それで完成と言っていいのでしょうか。

使用しているライブラリに脆弱性はないのか。保存している情報が、意図しない形で外部に漏れる可能性はないのか。こうした問題は、画面を操作して正常に動くことを確認しただけでは、なかなか判断できません。

もちろん、AIにセキュリティの確認を依頼することもできます。しかし、AIが「問題ありません」と回答したからといって、それが安全性の保証になるわけでもないでしょう。

自分が理解できていない部分まで、AIが作ってくれる。これは大きなメリットですが、同時に、自分では気づけない問題が残る可能性もあるということです。

今回のニュースをきっかけに、プログラムが正常に動いているというだけで、どこまで安心していいのかを改めて考えるようになりました。

自分だけで使うアプリと、誰かに使ってもらうアプリは違う

AIを使った個人開発が広がることで、今後は自分で作ったアプリやWebサービスを販売する人も増えていくのではないかと思います。

実際、自分が欲しい機能を持ったアプリを作れるのであれば、それを他の人にも使ってもらいたいと考えるのは自然なことです。

ただ、僕はここに大きな違いがあると感じています。

自分専用のプログラムであれば、問題が起きたときに自分の環境やデータが影響を受けるケースが中心になります。もちろん、APIキーなどが流出すれば外部サービスや第三者に被害が及ぶ可能性もあるので、自分だけで使うから安全というわけではありません。

一方で、他人に提供するサービスとなれば、考えなければならないことが一気に増えます。

利用者の個人情報をどう守るのか。不正アクセスを受けた場合にどう対応するのか。問題が発覚したとき、誰が原因を調べ、修正し、利用者に説明するのか。

もし、自分の作ったサービスが原因で利用者に被害が出たとしたら、「AIが作ったコードなので、僕にはわかりません」では済まされないと思うんです。AIがどれだけ優秀になっても、最終的にサービスを提供すると決めたのは人間ですからね。

これまで開発に参加できなかった人にもチャンスが生まれたからこそ、公開する側の責任についても考える必要があるのでしょう。

誰でも作れる時代になったからといって、誰でも安全に提供できるとは限らない。

この違いは、これからAIを使って何かを作ろうとしている人にとって、大切なことだと思います。

AIが進化しても、エンジニアは必要なくならないと思う

AIがプログラムを書けるようになったことで、将来的にはエンジニアの仕事が減るのではないかという話もあります。

確かに、コードを書く作業の一部は、今後さらにAIへ置き換わっていくのかもしれません。

でも、今回のセキュリティに関する情報を見ていて、僕は少し違うことを考えました。

むしろ、エンジニアの専門的な知識や経験は、これからますます重要になる部分もあるのではないかと。

プログラムを作ることと、そのプログラムの安全性を検証することは別の仕事です。AIが生成したコードであっても、設計に問題がないかを判断したり、脆弱性を調査したり、問題が発生したときに適切な対応を取ったりする必要があります。

AIによって開発の敷居が下がれば、世の中に生まれるアプリやサービスも増えるでしょう。そうなれば、それらの安全性を確認できる人材の重要性は、今まで以上に高まる可能性があります。

もちろん、AI自身のセキュリティ検証能力も進化していくでしょうし、それによって仕事の内容が変わることも考えられます。だから、エンジニアの需要が必ず増えると断言するつもりはありません。

ただ、少なくとも僕は、AIがコードを書けるようになったという理由だけで、エンジニアが必要なくなるとは思えないんですよね。

AIが作る仕事を助けるほど、人間には、その成果物を正しく判断する力が求められる。

そんな時代になっていくような気がしています。

それでも、僕はAIを使った開発をやめない

ここまで書いてきましたが、僕自身、AIを使った開発をやめようとは思っていません。むしろ、これからも積極的に活用していきたいと考えています。

僕は現在、メタバースドラマの制作でもAIを活用しています。BlenderやUnityなど、自分がまだ十分に使いこなせていない技術についても、AIと相談しながら少しずつ実現できることを増やしています。

AIがなければ、今の僕には難しかったこともたくさんあります。だから、その可能性を否定したくはありませんし、今回のことで不安を感じたからといって、挑戦をやめるつもりもありません。

ただ、開発に対する考え方は少し変わりました。

これからは、動くものを作るだけではなく、どうやって安全性を確認するのかという部分にも、もっと意識を向けていきたいと思っています。

まずは自分のレイジOSについても、APIキーやアクセス権限の管理、使用するライブラリ、外部通信などを改めて確認し、どこにリスクがあるのかを把握することから始めたいです。

そして、将来的に誰かに使ってもらうサービスを作るのであれば、AIによる確認だけで済ませず、必要に応じて専門的なセキュリティ診断を受けることも考えなければなりません。

何より大切なのは、自分が理解していないことを、理解したつもりにならないことでしょうね。

それでも僕は、AIを使って新しいものを作り続けたい。

怖さを知ったからといって、ここで挑戦をやめてしまうのは、もったいないと思うんです。

作れる時代だからこそ、守ることも考えたい

AIのおかげで、僕たち個人ができることは確実に増えました。

以前なら専門家にお願いするしかなかったことも、今では自分で挑戦できるようになっています。僕自身、その変化を楽しんでいる一人です。

だからこそ、これからは「どうすれば実現できるのか」だけではなく、「どうすれば安全に使い続けられるのか」ということも学んでいきたいと思っています。

怖いからやめるのではなく、怖さを知ったうえで、できることを増やしていく。AIがどれだけ進化しても、最後に判断するのは僕たち人間ですからね。

それでは、また。

こちらもおすすめ！