<div dir="ltr"><div>Very interesting, thanks for sharing.<br></div><div dir="ltr"><br></div><div dir="ltr">This is a very radical viewpoint, I think there is tons of research that can be done on alignment and for this reason I don't think we should shut it all down.</div><div><br></div><div>Obviously it's not a good idea to give access to such a system to everyone, I hope that at least we all start to understand this.<br></div><div><br></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, 1 Apr 2023 at 13:52, MigMit <<a href="mailto:migmit@gmail.com">migmit@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Or this: <a href="https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/" rel="noreferrer" target="_blank">https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/</a><br>
<br>
(to which somebody said "I work in a datacenter. So far no AI threatened violence on me; Yudkowsky just did")<br>
<br>
> On 1 Apr 2023, at 13:36, Aloïs Cochard <<a href="mailto:alois.cochard@gmail.com" target="_blank">alois.cochard@gmail.com</a>> wrote:<br>
> <br>
> I don't know, personally I could not stop laughing at the answer from version 3.5... it's so freaking stupid!<br>
> <br>
> But if like Dominik you are scared after reading that part you might be interested to look into:<br>
> <a href="https://futureoflife.org/open-letter/pause-giant-ai-experiments/" rel="noreferrer" target="_blank">https://futureoflife.org/open-letter/pause-giant-ai-experiments/</a><br>
> <br>
> On Sat, 1 Apr 2023 at 11:44, Dominik Schrempf <<a href="mailto:dominik.schrempf@gmail.com" target="_blank">dominik.schrempf@gmail.com</a>> wrote:<br>
> Well, it seems like GPT4 gets most of the questions right. This was more of a scary read than a funny one to me!<br>
> <br>
> Dominik<br>
> <br>
> On April 1, 2023 8:18:08 AM GMT+02:00, "Aloïs Cochard" <<a href="mailto:alois.cochard@gmail.com" target="_blank">alois.cochard@gmail.com</a>> wrote: How can this be useful when you have to anyway review everything is doing as he might to just randomly insert a bug or a security flaw???<br>
> I prefer to read poems by my human friends.<br>
> <br>
> I highly recommend starting reading this paper at page 128 instead of wasting your time on that prompt:<br>
> <a href="https://arxiv.org/pdf/2303.12712.pdf" rel="noreferrer" target="_blank">https://arxiv.org/pdf/2303.12712.pdf</a><br>
> <br>
> Be ready for a good laugh<br>
> <br>
> Sincerely yours<br>
> <br>
> <br>
> On Sat, 1 Apr 2023 at 05:36, William Yager <<a href="mailto:will.yager@gmail.com" target="_blank">will.yager@gmail.com</a>> wrote:<br>
> On Fri, Mar 31, 2023 at 7:27 PM Mig Mit <<a href="mailto:migmit@gmail.com" target="_blank">migmit@gmail.com</a>> wrote:<br>
> How is it going to benefit anyone though? English, like all natural languages, is terrible for describing algorithms. <br>
> <br>
> <br>
> The other day, I asked ChatGPT to solve a boring but non-trivial programming problem I had:<br>
> <br>
> > I have a png file which contains a bunch of 5x7 bitmap font characters. Write a python program which reads in the png, and then for each character in the png, extracts the 35 bits of each character and assembles them into an integer.  The final output should be a list of integers, each integer containing a binary representation of each character in the font.<br>
> <br>
> It did this basically perfectly.  It wasn't precisely matched to my format, but only because I was ambiguous in the problem statement. I gave it a little more context about the image format and it did it exactly right on the second try.<br>
> <br>
> I also asked it to write an inverse function of this, which it did perfectly in Python, and did pretty well in Rust, although with a small and understandable bug.<br>
> <br>
> Very useful! <br>
> _______________________________________________<br>
> Haskell-Cafe mailing list<br>
> To (un)subscribe, modify options or view archives go to:<br>
> <a href="http://mail.haskell.org/cgi-bin/mailman/listinfo/haskell-cafe" rel="noreferrer" target="_blank">http://mail.haskell.org/cgi-bin/mailman/listinfo/haskell-cafe</a><br>
> Only members subscribed via the mailman list are allowed to post.<br>
> <br>
> <br>
> <br>
> -- <br>
> Λ\oïs<br>
> <a href="http://twitter.com/aloiscochard" rel="noreferrer" target="_blank">http://twitter.com/aloiscochard</a><br>
> <a href="http://github.com/aloiscochard" rel="noreferrer" target="_blank">http://github.com/aloiscochard</a><br>
<br>
</blockquote></div><br clear="all"><br><span class="gmail_signature_prefix">-- </span><br><div dir="ltr" class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><b>Λ\oïs</b></div><div><div><a href="http://twitter.com/aloiscochard" target="_blank">http://twitter.com/aloiscochard</a></div><div><a href="http://github.com/aloiscochard" target="_blank">http://github.com/aloiscochard</a></div></div></div></div></div></div></div>