Виленкин Наум Яковлевич стоит у истоков целого ряда научных направлений. Первые его работы были посвящены теории топологических абелевых групп. Эти исследования естественным образом привели к изучению систем характеров нульмерных компактных абелевых групп.
   С начала 60-х гг. научная деятельность Наума Яковлевича протекала параллельно с работой в области школьной педагогики. Он принимал участие в написании учебников по математике как для младших, так и для старших классов. Им было написано также большое количество книг и учебных пособий для студентов педвузов и учителей школ.          
   Виленкину Н. Я. присуждена премия им. К. Д. Ушинского 1-й степени, 2-я премия за научно-популярные книги. И. Я. Виленкин награжден знаком «Отличник народного просвещения».  Целый ряд книг Виленкина Н.Я. был переведен  на иностранные  языки  и нашел своего читателя.