短いですが割と詰まったので書いておきます。
タイトルの通りですが、 /etc/environment では # を使えません。# 以降はコメントとして処理されるようです。
エスケープもできないようです。
https://github.com/linux-pam/linux-pam/blob/master/modules/pam_env/pam_env.c#L330
ここで we are only interested in characters before the first '#' character とコメントで書かれており、コード的にも # 以降の文字列を無視するようになっています。
解決方法
.bashrc に書き込みました。
参考
https://unix.stackexchange.com/questions/97736/escape-hash-mark-in-etc-environment