Продолжение истории.
В прошлую субботу обновил БИОС и решил опять потестировать всю память, но комп завис. В воскресенье пару часов тестировал из-под WinPE 8.1 7-zip. размер словаря 384 МБ прошло нормально. Снес систему и установил Win 8.1 х64. Неделя прошла нормально, зависаний пока нет, память стоит вся 6 ГБ плюс подключил старый винт. Потестирую еще неделю. Пока вариантов немного может Win 8.1 как-то по-другому работает с памятью?