Я согласен с spiritualape
Если ИИ (или человека) изолировать от внешней информации - сам он может и не додуматься до философских проблем бытия. Или додумается но до самых примитивных его форм.

Аесли дать допуск к информации - то чистота эксперимента нарушится. Почти каждое литературное произведение и просто суждения человека так или иначе содержат в себе элементы философских суждений (о проблемах бытия, смысле жизни и т.п.).

Т.е. чистота эксперимента в любом из вариантов будет нарушена. И его результаты скорее всего никому ничего не докажут.

Хотя эксперимент будет полезен для перехода споров из теории и мысленных экспериментов в практическую плоскость