From: "Dmitry V. Levin" <ldv@altlinux.org> To: ALT Devel discussion list <devel@lists.altlinux.org> Subject: Re: [devel] Сборочница - правильные настройки. Date: Tue, 29 May 2018 23:29:47 +0300 Message-ID: <20180529202947.GA21295@altlinux.org> (raw) In-Reply-To: <20180529200325.GA8502@dad.imath.kiev.ua> [-- Attachment #1: Type: text/plain, Size: 2637 bytes --] On Tue, May 29, 2018 at 11:03:25PM +0300, Igor Vlasenko wrote: > Уважаемые коллеги, > > чтобы продвинуться с обновлением java > нужна срочная помощь со сборчницей. > > Начал обновление gradle. Залил бутстрап, > а полноценный gradle отправить в Сизиф не могу. > На локальной машине gradle собирается. Но там 4 ядра. > > На сборчнице же, как предполагаю, > 16 или 32 виртуальных ядра и дефолтный > $ ulimit -u > 512 > > Чем это плохо? Непуганные апстримы практикуют индийский код вида > for Runtime.getRuntime().availableProcessors(): > create a thread, а иногда, возможно, и fork(). > При этом сама JVM thread - прожорлива, запускает JIT threads > по числу availableProcessors(). > При вложении индийского кода друг в друга мы с легкостью получаем > C*N^2 threads. Для N=2 или N=4 это чепуха, > но для N=32 это уже немало. На нашей сборчнице > это упирается в ее ulimit -u=512 > и сборка падает с unable to create new native thread (Хотя памяти в > системе хватает). > > Конкретно с gradle N^2 threads, рождаются не только из-за > самого gradle, (хотя и внутри его есть много подобного кода, > но есть хотя бы ограничивающие опции) > а еще внутри используемых им библиотек (ivy,...?). > Апстрим это рассматривает как неправильную конфигурацию - > если у вас такая крутая машина с N ядер и N Gb памяти - > просто поднимите лимит до соответствующих 4096/8192. > > Я так понимаю, со сборочницей мы уже наступали на эти грабли, > на что намекает текущий хак с NPROC=1, чтобы сборочнице > не плохело от make -j32. Первоначально nprocs=1 был выставлен для лучшей воспроизводимости сборки. > Чем плох наш NPROC=1 костыль, что он не универсальный - заточен под make. > > Я бы советовал cpuset(7) -- нарезать ноду на K пользователей, > и дать каждому пользователю N/K ядер. Приложения, и в частности, JVM, > будут тогда думать, что запущены на N/K ядерной машине и проблема исчезнет. Уже. Я экспериментирую с раздачей по одной numa node на пользователя, nproc(1) там показывает 8, %__nprocs с недавних пор по умолчанию содержит то, что выводит nproc(1). Но некоторые это игнорируют, разными способами (_SC_NPROCESSORS_ONLN, /proc/stat, /proc/cpuinfo, ...) берут число видимых cpu units, и получается фигня. Мы попробовали ограничить видимую часть /proc/stat и /proc/cpuinfo cpuset'ом, но эксперименты показывают, что, например, maven от этого сходит с ума: https://lists.altlinux.org/pipermail/sisyphus-cybertalk/2018-May/103621.html > и ulimit -u поднять, конечно, XXI век на дворе, все-таки. Кто-нибудь знает, сколько им надо тредов на N cpu units? -- ldv [-- Attachment #2: signature.asc --] [-- Type: application/pgp-signature, Size: 801 bytes --]
next prev parent reply other threads:[~2018-05-29 20:29 UTC|newest] Thread overview: 5+ messages / expand[flat|nested] mbox.gz Atom feed top 2018-05-29 20:03 Igor Vlasenko 2018-05-29 20:29 ` Dmitry V. Levin [this message] 2018-05-29 20:58 ` Igor Vlasenko 2018-05-29 21:22 ` Dmitry V. Levin 2018-05-30 5:13 ` Igor Vlasenko
Reply instructions: You may reply publicly to this message via plain-text email using any one of the following methods: * Save the following mbox file, import it into your mail client, and reply-to-all from there: mbox Avoid top-posting and favor interleaved quoting: https://en.wikipedia.org/wiki/Posting_style#Interleaved_style * Reply using the --to, --cc, and --in-reply-to switches of git-send-email(1): git send-email \ --in-reply-to=20180529202947.GA21295@altlinux.org \ --to=ldv@altlinux.org \ --cc=devel@lists.altlinux.org \ /path/to/YOUR_REPLY https://kernel.org/pub/software/scm/git/docs/git-send-email.html * If your mail client supports setting the In-Reply-To header via mailto: links, try the mailto: link
ALT Linux Team development discussions This inbox may be cloned and mirrored by anyone: git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git # If you have public-inbox 1.1+ installed, you may # initialize and index your mirror using the following commands: public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \ devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru public-inbox-index devel Example config snippet for mirrors. Newsgroup available over NNTP: nntp://lore.altlinux.org/org.altlinux.lists.devel AGPL code for this site: git clone https://public-inbox.org/public-inbox.git