先月新たに発表されたGoogle（グーグル）によるAI特化型のスマートフォン｢Pixel 8｣。生成AI搭載で、さらに以前にも増してカメラや写真編集機能のアップグレードがされました。生成AIを活用したカメラや写真編集機能により端末上で合成したり、一部を除去したりといったことも簡単に行なえます。
Googleはこうしたカメラや写真編集機能に関して、Googleフォトのアプリをアップデートしました。これにより、免許証などのIDカードといった個人を特定できるものの写真を編集できなくなります。
｢編集マジック｣はIDカード等には使えないように
今回のアップデートでは、互換性のあるPixel 8端末でGoogleフォトでの｢編集マジック｣に追加機能が搭載されました。
IDカード等の編集を行なおうとするとフォトアプリ上にポップアップウィンドウが表示され、利用規約に違反する可能性があるため編集を実行できなくなる、というもの。Googleは、おそらく同アプリの今後のバージョンアップにてさらにこうした機能を強化していくでしょう。
Android Authorityは、アップデートされたGoogleフォトのAPK（バージョン6. 60）のコードを調査しました。ポップアップウィンドウには｢編集マジックはIDカード、領収書やその他Googleの生成AI規約違反のおそれのあるものを編集することはできません｣という特定のエラーメッセージを発見したそうです。
パスポートと運転免許証で試してみた
米GizmodoのFlorence Ion記者は、実際に自身の持つパスポートや運転免許証の写真を、Pixel 8の編集マジックで試してみました。顔写真の一部を編集しようと試みると、アプリには｢実行できません｣と表示され、編集は行なえませんでした。
その写真では、顔写真の半分に影が映り込んでいたり、額の一部が光で欠けているように見える画像だったため、もし編集ができたら…と興味もあったそうですが、実際には編集は完全に拒否されてしまいました。
Ion記者は、Pixel 8 Proの｢消しゴムマジック｣機能でもテストを行ないましたが、同様のメッセージが表示され編集は行えなかったそうです。
技術革新につきまとう不安
さて、現在進行系で進化を続け、同時に世界に広がっているAIを活用した編集技術ですが、こうした技術革新の裏には同時に不安もはらんでいます。
たとえば、IDカードの写真をすり替えて別人がウェブサイトにアクセスしたり、オンラインで何かを購入していたりといったことにも繋がります。完全な悪意をもって｢偽造｣を行なう術を探す人々は常に存在しています。
AIの発達以前よりこうしたことは起こっていましたが、今よりもずっと困難であった、という点は留意したいですね。
Android Authorityは、今回のコード調査でGoogleフォトにテキストプロンプトベースの画像生成機能が導入することを示唆するコードも発見したとのことですが、これ自体はそこまで驚くことではありませんね。
これにより｢編集マジック｣がさらに進化するのは喜ばしいことではありますが、一方でそれにつきまとう悪意も見逃せません。
