Przyszedł na świat w Leordzie, na Bukowinie w Rumunii. Profesja ojca – kolejarza odcisnęła wyraźne piętno na późniejszej twórczości artysty, który wielokrotnie powracał do motywów kolejowych (Płaszów, Strzyżów). Kształcił się początkowo we Lwowie, a następnie po przeprowadzce na Podgórze, w Krakowie. W 1892 roku dzięki przychylności Jana Matejki został przyjęty od razu na drugi rok studiów w krakowskiej Szkole Sztuk Pięknych. W czasie edukacji odbył pierwszą podróż po Europie i odwiedził Paryż. Pod jego wpływem, a także po spotkaniu ze Stanisławem Przybyszewskim zaczęły narastać w jego twórczości dekadenckie tendencje ekspresjonistyczne. Naukę zakończył w majsterszuli Leona Wyczółkowskiego w 1898. Jeszcze w tym samym roku wziął udział w wystawie "Sztuki" i rozpoczął współpracę z krakowskim "Życiem". W latach 1899-1903 wyprawiał się regularnie do podkarpackiego Strzyżowa, gdzie wraz z mężem i dziećmi na stacji kolejowej mieszkała jego siostra. To tam powstały najważniejsze symbolistyczno-ekspresyjne dzieła artysty wraz z "Opętaniem" czy "Promiennym zachodem słońca" na czele. W 1901 roku otrzymał od hr. Michała Tyszkiewicza stypendium, które wykorzystał na wyjazd do Italii. Odwiedził m.in. Rzym i Wenecję, do której powracał wyjątkowo chętnie.

W 1904 roku zakupił dom w Kalwarii Zebrzydowskiej. Miejsce to stało się jego azylem i przestrzenią dla licznych plenerów na kolejne lata. W tym czasie nastąpiło przejście od katastrofizmu do afirmacji życia, przyrody i świata. W 1905 rozpoczyna się w jego twórczości tzw. "biały okres", który potrwa do 1912, a w którym Weiss diametralnie rozjaśnia paletę barwną i inspiruje się sztuką Japonii. W 1907 do Krakowa przyjedzie Irena Silberger (Aneri), z którą artysta weźmie ślub rok później. Jest to czas prężnego rozwoju kariery Weissa. Zostaje on członkiem Towarzystwa Przyjaciół Sztuk Pięknych w Krakowie, Secesji Wiedeńskiej, a także prezesem "Sztuki". Lata 20. to okres rodzinnej i artystycznej stabilizacji. Rodzina Weissów przeprowadza się do willi zaprojektowanej dla nich przez Tadeusza Stryjeńskiego i Franciszka Mączyńskiego przy ul. Krupniczej 31. Okres dwudziestolecia międzywojennego obfitować będzie w liczne akty, martwe natury i pejzaże utrzymane w duchu dawnych mistrzów i niepozbawione refleksów nowoczesnych prądów w sztuce, jak chociażby francuski impresjonizm. Weiss często odwiedzał wówczas południe Europy, szczególnie Niceę, w której mieszkała siostra Aneri, Maria Sperling, także malarka. W latach 30. twórca odbywał wraz z żoną regularne plenery malarskie nad Bałtykiem. Chętnie jeździ także do Ojcowa i Poronina. Wciąż stałym miejscem jego artystycznych zmagań była Kalwaria Zebrzydowska. W 1948 roku otrzymał Nagrodę Miasta Krakowa za całokształt twórczości.