если еще не пробовал, попробуй вынуть видеокарту на время и поработать со встроенной. Если глюки пропадут - проблема была в видео либо ВОЗМОЖНО в БП, которому тупо не хватало мощности тянуть это видео (а какой он у тебя заявленной мощности-то, кстати?). В таком случае нужно тестировать (менять на время) видео и БП (само собой, БП приличной мощности для теста).

Если не пропадут - значит, дело точно в материнке или БП. В этом случае тестировать их, причем первым менять БП (его проще заменить). Но здесь засада в том, что с непривычки все кабели и проводки сложно воткнуть куда надо, особенно подлые в этом плане т.н. front panel connectors - их нужно перед выниманием тщательно изучить с лупой, как конкретно они подключены и срисовать схему на память. Если срисовал неправильно, то в интернете есть схемы для данной модели материнки (для этого, понятно, нужно иметь запасной ноут/планшет для выхода в этот самый интернет, пока комп стоит в выпотрошенном состоянии). Конечно, другие кабели тоже нужно перед отключением хорошо заранее изучить и даже сфотографировать их общий вид. Также нужно помнить, что браться руками можно только за силиконовые части деталей (а не за контакты), причем руки должны быть чистые, сухие и периодически прикасаемые к батарее. Ну и, конечно, никаких не-хлопчатых вещей на себе. Еще есть одна потенциальная проблема: гарантированно рабочие материнки могут после вставки в корпус все равно отказываться работать. В данном случае виноват сам корпус: он чуток кривоват и касается где-то одного из контактов на плане, замыкая ее и делая невозможным старт. Тогда нужно вырезать из толстой бумаги/картона шайбочки и прикручивать плату к корпусу через них, либо прикручивать плату к корпусу лишь частью винтов (всего их то ли 8, то ли 12, если память не изменяет, но для удерживания платы хватит и этак 6-8, главное чтобы она не изгибалась тогда при этом, а была прямой).

Лично мне интуиция подсказывает, что тут дело отнюдь не в видео, а либо в материнке, либо в БП. Были весьма похожие проблемы у меня, заменил и плату и БП за один раз, не разбираясь конкретно, кто же именно из них виноват. Два дня провозился, именно из-за этих чертовых front panel connectors, а также из вышеописанной херни с замыканием платы на корпус.