Nightmare Frontier ставит игроков во главе группы старателей, входящих в оскверненный город-клондайк из альтернативных 1900-х годов. Отряд отправляется в поселение, чтобы дать бой созданиям, именуемым Ткачами Ужаса, — воплощениям человеческих фобий. Задания предполагают проникновение на территорию, сбор ресурсов и благополучное возвращение на базу. События разворачиваются на альтернативном американском фронтире, где перспективы обрели сверхъестественную природу.

Геймплей в Nightmare Frontier строится на комбинациях метких выстрелов для подавления противников перед сближением. Бойцы способны толкать, парировать и совмещать атаки, меняя расстановку сил на поле боя. Механика страха и отваги влияет на ход сражений, позволяя выбирать битвы в зависимости от душевного состояния отряда. Продвижение по сюжету состоит из контрнаступления на Ткачей Ужаса и зачистки городских районов, что открывает новые маршруты и знакомит группу со свежими опасностями.

Каждая вылазка в город ставит перед выбором: осторожность или нажива, ведь чем дальше заходит отряд, тем выше и награда, и риск. Эта игра позволяет намеренно повышать Уровень Кошмара, делая стычки более смертоносными ради крупной добычи. Ресурсы, добытые с поверженных тварей, применяются для создания и улучшения оружия, сочетающего технологии начала XX века со сверхъестественной алхимией. В перерывах между вылазками предводитель занимается экипировкой, вкладывается в новые умения и принимает в отряд новичков, осознавая, что их личные слабости станут приманкой для конкретных монстров.