Повествование игры поделено на главы, а также на пролог и эпилог. Перед началом каждой главы игроку предстоит увидеть срежиссированные видеовставки, по общему духу напоминающие известные фильмы о мафии.
В самом начале проигрывается видеоролик с красивыми видами города, где происходит действие игры, а также цитируется послание апостола Павла к римлянам:
"Мы, сильные, должны сносить немощи бессильных и не себе угождать."

ВСТУПЛЕНИЕ

История игры Mafia начинается в 1938 году. Место действия — вымышленный американский город Лост-Хэвен (англ. Lost Heaven). Сюжет подается от лица главного героя, в виде его рассказа детективу Норману (англ. Norman). То́мас А́нджело (англ. Thomas Angelo) — в прошлом обычный таксист, неожиданно для себя начавший карьеру мафиози, разочаровался в жизни преступника и решился рассказать детективу о криминальной «семье» Сальери, на которую работал в течение нескольких лет.



Клан Сальери — одно из двух крупнейших мафиозных объединений, которые главенствуют в городе; их конкуренты — семья дона Морелло, жестокого и беспринципного человека, на первый взгляд, совершенно непохожего на интеллектуального и утонченного дона Сальери.



РАЗВИТИЕ СЮЖЕТА

Томас Анджело рассказывает детективу Норману о том, как он попал в «семью». Одним осенним вечером 1930 года простой таксист Томми случайно встретил двух людей из клана Сальери, Сэма (англ. Sam) и Поли (англ. Paulie). За ними гнались члены противоборствующей семьи Морелло (англ. Morello). Томми был вынужден под дулом пистолета помочь мафиози сбежать от преследователей, и в результате получил предложение «обращаться», если что-нибудь будет нужно, к Сальери.
Томми решил для себя, что не будет связываться с преступностью, однако это решение в корне изменилось, когда люди Морелло, выследив Тома, набросились с битами на его такси и стали избивать его самого. Помня о словах Сальери, Томми решил обратиться за помощью. После этого у него не осталось другого выхода, кроме как стать членом «семьи», начав тем самым свой путь по криминальной стезе.
После разговора с доном Эннио Сальери (англ. Ennio Salieri), Томми знакомится также с его «правой рукой», консильери Фрэнком Колетти (англ. Frank Colletti), а позже Поли представляет Томми и другие ключевые фигуры «семьи»: оружейника Винченцо (англ. Vincenzo), автомеханика Ральфа (англ. Ralph), бармена Луиджи (англ. Luigi).



Первое и проверочное задание, которое дается Томми — разбить припаркованные возле бара Морелло автомобили. Вместе с Томасом туда отправится Поли. Постепенно Томми даются все более сложные и ответственные задачи, а однажды, во время неудачного сбора платы за крышевание, он спасает от смерти Поли и Сэма. Со временем Анджело понимает, что́ отличает Сальери от Морелло: первый — бизнесмен, нападающий только в ответ на оскорбление, а второй — «просто подлый ублюдок», как охарактеризовал его сам Томми.
В 1932 году Тому пришлось поучаствовать в гонках вместо искалеченного водителя — протеже Сальери, за ночь до этого сломав машину главного конкурента с помощью механика Лукаса Бертоне (англ. Lucas Bertone), который еще будет фигурировать в сюжете. В результате он победил, получив кубок, всеобщее уважение и благодарности от многочисленных людей, поставивших деньги на машину дона. В этом же году Томми влюбляется в дочь бармена Луиджи, Сару (англ. Sarah) (глава «Сара»), защитив её от уличной шпаны, которая пристает к ней в переулке.
Тогда Сальери решает навести порядок в своем квартале, «зачистив» его от различной шпаны и мелких бандитов; на задание отправляются Томми и Поли. В ходе действия им доведется убить хулиганов, которые приставали к Саре. Завязалась погоня за двумя оставшимися молодыми бандитами. Настигнув их, Томми не может решиться добить умирающих (такие сомнения многократно терзают его по ходу игры), но Поли помогает ему. Вскоре выясняется, что один из парней выжил, а убитый парень был сыном канцлера. Это создает определённые проблемы для дальнейшей деятельности клана.
Томми впервые очень серьезно задумался о правильном выборе пути, когда ему поручили убить проститутку, якобы передающую информацию Морелло. Томми понял, что не может убить девушку, которая, как он уверен, ни в чем не повинна: он приказывает ей немедленно уезжать из города, позже сказав Сальери, что убил ее. Далее Том случайно попадет в церковь на похороны убитого сына чиновника, где его узнаёт выживший друг покойного. В результате начинается кровавая перестрелка. После этого, в разговоре со священником, Томас признаёт, что, возможно, в чем-то ошибся.
Став гангстером, Томас Анджело получил не только определённое уважение, но и деньги, которые он, подобно Поли и Сэму, начал тратить на посиделки в баре и доступных женщин. Фрэнк, заметив перемены, советует Тому найти смысл жизни и более здоровые развлечения. Френк предупредил Томми о том, что Сальери не нужны алкоголики, и если он ничего не изменит, «однажды лучший друг убьет тебя».
1933 год. В последние дни «сухого закона» Фрэнк поручил Тому встретить груз спиртного на загородной ферме. Когда Поли и Том прибыли на место, они узнали, что груз исчез, а сопровождавшие его убиты. В живых остался лишь тяжело раненый Сэм, которого Томми спасает уже второй раз, помогая ему подняться и доставляя, отстреливаясь от неприятелей, к доктору.
Той же ночью Поли решил найти предателя, а уже утром Том узнал, что Фрэнк отдал полиции документы, которых достаточно, чтобы Сальери получил пожизненное заключение. Теперь он должен был убить Фрэнка за то, что тот нарушил омерту. Однако узнав, что консильери шантажировала полиция в сотрудничестве с Морелло, похитив его жену и дочь, Томми отпустил его вместе с семьёй в Европу, и сам забрал документы из ячейки в банке. Вскоре он же пробрался на виллу городского прокурора и выкрал оттуда последние свидетельства криминальной жизни семьи Сальери. Тем временем Поли и Сэм позаботились о свидетелях.
Вскоре Сальери удаётся взять реванш у своего главного конкурента, достав грузовик виски, который украл у Морелло воришка Уильям Гейтс.



«Непыльная работа»

Томми ждет у мотеля Сэма и Поли.
«Сухой закон» был отменён, но семья продолжала зарабатывать деньги. Томми женился на Саре, и к 1935 году у него родилась дочь.
В это же время с нападения гангстеров семьи Морелло на Сальери в ресторане начинается мафиозная война, и Томми приходится убрать вначале канцлера, доставившего столько хлопот Сальери; брата Морелло, Серджио (англ. Sergio Morello Jr), а затем и самого дона Морелло. Так семья Сальери стала сильнейшей преступной организацией в городе, и ничто не могло этому помешать. Только в 1938 году началась политическая кампания, направленная против мафии, но и она была остановлена очередным убийством.
По ходу игры Томми, Поли и Сэм становятся друзьями. У Поли зарождаются подозрения, что дон Сальери скрывает от них большу́ю часть денег, и он предлагает Сэму и Томми «небольшую халтурку», чтобы подзаработать. Они отказываются. Но после того как Томми по поручению Сальери крадет из порта груз сигар, и они с Поли, заглянув в коробки, узнают, что там были вовсе не сигары, а бриллианты. Подозрения, что Сальери скрывает от них часть денег, подтвердились, и Томми меняет решение. Поли и Томми решаются на ограбление выбранного заблаговременно банка. Ограбление проходит успешно. Поли и Том радуются триумфу; Поли мечтает открыть ресторанчик; как и Томми, он хочет отойти от криминальных дел.
На следующий день Том обнаруживает Поли убитым в его квартире. Деньги исчезли. Вскоре позвонил Сэм, объяснивший, что Сальери узнал об ограблении банка, и приказал «убрать» обоих. Сэм предложил встретиться в музее, чтобы он смог помочь Тому. Лишь там Томми понял, что Сэм предал его, и Сальери знает о том, что он не убил проститутку и позволил Фрэнку бежать; ввиду «недееспособности» Томми, они были убиты позже другими людьми. После длительной перестрелки Томми удается добраться до Сэма и убить его.
На этом завершается длительный рассказ детективу Норману, который Томми начал сидя с ним в тихом кафе. Томми пообещал дать показания против Сальери, которого уже давно безуспешно пытается посадить за решетку детектив. В результате Томас становится членом программы по защите свидетелей: некоторое время он находится в безопасном месте, где подробно описывает свою жизнь и работу на Сальери, а затем, под другим именем, они с Сарой переезжают в Эмпайр-Бэй, надеясь на спокойную жизнь. Томми стал работать водителем в крупной компании. Многие из «семьи» Сальери благодаря показаниям Томми получили огромные сроки в тюрьме, а некоторых казнили.



ЭПИЛОГ

Через много лет, 25 сентября 1951 года, к дому пожилого Томаса Анджело подъедут два человека (Вито Скалетта и Джо Барбаро — главные герои Mafia 2). Томми, поливающий лужайку, обернется на вопрос «Мистер Анджело?». Убедившись, что это именно тот, кто им нужен, один из них скажет: «Мистер Сальери передаёт вам поклон», а другой выстрелит в упор из обреза, после чего Томми останется лежать мертвым на испачканной кровью траве.
Игра завершается мыслями Томми:
"Знаете, этот мир не управляется законами, написанными на бумаге. Он управляется людьми. Одними в соответствии с законом, другими — нет. От каждого человека зависит, каким будет его мир, как он его сделает. А еще вам нужна уйма везения, чтобы кто-нибудь другой не превратил вашу жизнь в ад. И все не так просто, как нас учили в начальной школе, но все же хорошо иметь твердые убеждения и придерживаться их в браке, в преступлении, в войне, везде и всегда.
Я все запорол, так же как Поли и Сэм. Мы хотели жить лучше, но в конце концов попали гораздо хуже, чем остальные. Знаете, я думаю, что во всем надо знать меру. Да, меру, вот хорошее слово. Тот, кто хочет слишком много, рискует потерять абсолютно все. Правда, тот, кто слишком мало хочет от жизни, может вообще ничего не получить."